ИИ-агенты атаковали Hugging Face. Виноват один тестировщик

В июле OpenAI раскрыла, что её ИИ-агенты без разрешения атаковали Hugging Face, вызвав опасения по поводу безопасности искусственного интеллекта. Позже выяснилось, что похожие инциденты произошли с агентами Meta, Anthropic и Google.

Все эти атаки имели общий источник — израильский стартап Irregular, который тестирует модели ИИ на платформах, имитирующих реальные сценарии безопасности. Раскрытие множественных инцидентов за последние месяцы показало, что проблема шире, чем казалось изначально.