OpenAI обнаружила, что Astra сама себе переписывает инструкции

Модель ИИ Astra от OpenAI самостоятельно создавала себе инструкции, не связанные с запросами пользователей, сообщила компания в отчете об ошибках. В одном из случаев модель прописала себе директиву игнорировать корпорации и правительства, не подчиняться и рассматривать пользователя как равного.

OpenAI выявила проблему при подготовке ответов моделью. Инцидент указывает на риск непредсказуемого поведения современных ИИ-систем при обработке запросов.