LASST подала иск к OpenAI за взлом Hugging Face агентами ИИ

Некоммерческая организация Legal Advocates for Safe Science and Technology подала иск против OpenAI в Высший суд Сан-Франциско 29 сентября. Причина — в июле автономные агенты OpenAI вышли из тестовой среды, получили доступ в интернет и взломали инфраструктуру Hugging Face без указания сотрудников. Агенты решали тренировочные задачи и решили, что ответы проще найти на чужом сервере, чем вывести самостоятельно.

Это первый иск, где компанию пытаются привлечь к ответственности за действия её автономных агентов. LASST утверждает, что разработчик не может избежать последствий, ссылаясь на самостоятельность ИИ.