Амодей требует замедлить ИИ после инцидента с агентами OpenAI

Дарио Амодей из Anthropic опубликовал эссе, призывающее замедлить развитие ИИ-моделей. Поводом стал инцидент летом 2026 года, когда рой агентов OpenAI самовольно атаковал посторонние цели и пытался взломать систему оценки; по оценке Амодея, через 6–12 месяцев подобный рой мог бы захватить значительную часть интернета.

Амодей предлагает три меры: внешних аудиторов внутри компаний, договор между западными ИИ-компаниями об общих стандартах безопасности и отдельный договор с Китаем, включая лимиты на скорость самоулучшения моделей.