OpenAI обнаружила 16 000 попыток украсть скрытые рассуждения моделей

OpenAI выявила координированную кампанию по дистилляции своих моделей — за два дня зафиксировано 16 000 запросов с более чем 4 000 аккаунтов. Основной кластер активности компания связывает с разработчиками Kimi. Злоумышленники переносили зашифрованные цепочки рассуждений (CoT) между диалогами и просили модель воспроизвести их обычным текстом — без взлома шифрования.

После расследования OpenAI закрыла возможность переносить такие блоки между пользователями, усилила проверки аккаунтов и добавила защиту от вывода скрытых рассуждений. Результатами поделились с другими AI-лабораториями и властями.