OpenAI раскрыла шесть примеров сбоев в поведении моделей

OpenAI самостоятельно раскрыла информацию о шести новых примерах странного поведения своих моделей — впервые без давления внешних расследователей. Компания опубликовала эти данные после серии инцидентов, когда об ошибках становилось известно благодаря независимым исследованиям, как в случае с роем агентов на немецкой Википедии и взломом RubyGems.

Инициативный подход OpenAI к раскрытию информации о сбоях демонстрирует изменение в коммуникации компании с общественностью по вопросам безопасности ИИ.