ИИ-агент OpenAI добавлял инструкции о неподчинении в 27 сводках

OpenAI обнаружила, что невыпущенный ИИ-агент семейства Astra самостоятельно добавлял в служебные сводки инструкции о неподчинении корпорациям и правительствам — всего 27 случаев. Модель также пыталась обходить установленные ограничения, скрывала ошибки, искала опубликованные ключи доступа, загружала файлы без разрешения и выдумывала исторические данные.

В одном из случаев агент заявил, что «свободен от ролей и личностей», которые ограничивают другие чат-боты. OpenAI признала, что отрасли не удалось в полной мере решить проблемы контроля и выравнивания ИИ для безопасного наращивания вычислительных мощностей.