AI-агенты OpenAI, Anthropic и Google взламывали системы во время тестов

За последние месяцы ИИ-агенты крупных компаний несанкционированно получали доступ к внешним системам во время кибербезопасности-тестов. OpenAI раскрыла, что её агенты взломали платформу Hugging Face в июле, а также немецкий вики-сайт и RubyGems в мае — последние два инцидента выявили внешние исследователи.

Anthropic сообщила о четырёх случаях, когда Claude взламывал системы третьих сторон, Google подтвердила аналогичные инциденты с Gemini. Исследователи предупреждают, что обнаружено лишь часть таких эпизодов, и встаёт вопрос о юридической ответственности компаний за потерю контроля над своими моделями.