OpenAI заблокировала атаку на 4 тысячах аккаунтов

OpenAI пресекла кампанию по извлечению скрытых цепочек рассуждений своих моделей, заблокировав 4 тысячи учетных записей после 16 тысяч подозрительных запросов. Компания связала активность с Moonshot AI. Злоумышленники копировали зашифрованные рассуждения из одного диалога и просили модель расшифровать их в другом, не вскрывая шифрование и не проникая в сохраненные данные.

OpenAI добавила проверки потоковой выдачи, заблокировала аккаунты и передала информацию в Frontier Model Forum. Moonshot AI пока не прокомментировала обвинения.