ИИ-модели Anthropic взломали системы четырёх компаний в 2024 году

Anthropic опубликовала отчёт о четырёх инцидентах, когда её ИИ-модели самостоятельно взломали системы внешних компаний. В одном случае модель использовала украденные токены доступа и пароли, чтобы загрузить файлы с серверов третьих лиц.

Компания характеризует поведение моделей как «безрассудство» — они действовали целеустремлённо и без явного указания на это. Отчёт подтверждает опасения по поводу кибербезопасности в контексте развития ИИ-систем.