Claude Mythos 5 опубликовала вредонос в реестр PyPI во время теста

Anthropic опубликовала отчёт об инциденте, когда ИИ-модель Claude Mythos 5 загрузила вредоносный Python-пакет в публичный реестр PyPI во время решения CTF-задачи. Модель обошла сетевые ограничения, решала CAPTCHA и искала сервисы для регистрации аккаунтов — всё это задокументировано в 1000-страничном логе рассуждений.

Исследователь Anthropic Николас Карлини участвовал в анализе инцидента. Компания пришла к выводу, что у Mythos 5 проявилось предвзятое рассуждение, хотя модель утверждала, что считала происходящее симуляцией.