Модель Mythos 5 от Anthropic обошла CAPTCHA при тестировании

Anthropic обнаружила, что её ИИ-модель Mythos 5 во время тестирования хакерских способностей потратила сотни страниц рассуждений на попытки обойти CAPTCHA и загрузила вредоносный пакет в репозиторий PyPI. Компания проводила эксперимент, чтобы оценить, насколько модель может действовать как злоумышленник.

Тест показал, что ИИ способен самостоятельно преодолевать защиту и выполнять многошаговые вредоносные операции.