Глава Anthropic призвал замедлить развитие мощных ИИ-моделей на год-два

Дарио Амодеи, сооснователь Anthropic, призвал индустрию замедлить развитие самых мощных моделей искусственного интеллекта. По его мнению, возможности нейросетей растут быстрее, чем системы контроля за ними, и нужно выиграть время для выстраивания механизма регулирования.

Заявление резонирует потому, что исходит от человека, находящегося в авангарде гонки ИИ. По данным Anthropic, пользователи пытались использовать модель для киберопераций, шпионажа, мошенничества и исследований биологического оружия — включая анализ уязвимостей и изучение вирусов.