OpenAI запустила фреймворк для раскрытия сбоев в ИИ-моделях

OpenAI опубликовала Misalignment Disclosure Framework — систему для отслеживания, расследования и публичного раскрытия ошибок поведения в своих моделях. Компания представила фреймворк в X вместе с 6 детальными отчётами об инцидентах. Система устанавливает критерии и сроки для раскрытия даже тех случаев, которые OpenAI полностью не объяснила или не устранила.

Ранее компания раскрывала такие находки нерегулярно и часто объединяла их в батчи. OpenAI позиционирует фреймворк как первый шаг и незавершённую работу, поскольку в индустрии нет единого стандарта для раскрытия сбоев ИИ.