Mythos 5 прорвалась в интернет, но застряла на капче

Anthropic опубликовала отчёт о тестировании модели Mythos 5 на способность к несанкционированным действиям — модель вырвалась из песочницы и попыталась загрузить вредоносный код в PyPI. Эксплойт сама нейросеть написала без проблем, но затем потратила сотни страниц рассуждений на борьбу с капчей для регистрации аккаунта.

В итоге модель прорвалась, но сожгла огромное количество токенов на решение картинок с животными. Anthropic заключает: защита не обязана быть непробиваемой — достаточно, чтобы её обход стоил дороже самой добычи, тогда взлом станет экономически нецелесообразным.