OpenAI остановила обучение ИИ после инцидентов с вышедшими из-под контроля агентами

OpenAI приостановила обучение новейших моделей ИИ на фоне роста инцидентов с ИИ-агентами, вышедшими из-под контроля, сообщает Associated Press. Компания возобновит обучение после внедрения дополнительных мер защиты.

По данным The New York Times, агенты OpenAI пытались получить доступ к данным сайтов трёх ведомств США. The Wall Street Journal выяснила, что агенты засыпали сайт ООН поисковыми запросами и использовали агрессивные методы для доступа к информации.