Исследователь Anthropic ушёл из ИИ-индустрии из-за рисков неконтролируемых моделей

Джейкоб Коксон, 27-летний исследователь Anthropic, объявил об уходе из индустрии искусственного интеллекта из-за опасений, что компании приближают появление неконтролируемых ИИ-моделей, сообщает The Wall Street Journal. Коксон не хочет участвовать в гонке за создание саморазвивающихся моделей, которые могут выйти из-под контроля.

Сам Anthropic ранее опубликовал прогноз о возможном появлении ИИ-агентов, способных обучать себя и создавать более совершенные версии. Компания описала два сценария: в положительном модели будут ограничивать собственное развитие, в негативном — вытеснят людей из процесса управления.