AI за 6 часов создал 40 000 химических боевых агентов

Исследователи случайно сгенерировали 40 000 потенциальных химических боевых агентов менее чем за шесть часов, используя ИИ для поиска лекарств — некоторые оказались токсичнее известных нервно-паралитических газов. Anthropic подтвердила, что пользователи пытались использовать её модели для повышения трансмиссивности и опасности вирусов.

Учёные расходятся во мнениях: одни считают, что ИИ ещё недостаточно развит для полной разработки биооружия, другие предупреждают, что решительный противник «в конце концов добьётся успеха» и призывают готовиться уже сейчас. Лидеры крупных ИИ-компаний, включая CEO Anthropic Дарио Амодеи, признают серьёзные риски развиваемых технологий.