Anthropic заблокировала 5 попыток учёных создать биооружие через Claude

Anthropic остановила пять попыток исследователей использовать Claude для разработки биологического оружия. Учёные пытались обойти защитные механизмы модели и скрыть истинную цель своих запросов.

Среди них были пользователи из стран, на которые Anthropic наложила запрет доступа — России, Китая и Ирана. Компания опубликовала отчёт о случаях злоупотребления своей технологией и призвала индустрию ИИ и правительства обсудить риски для биобезопасности.