Фильтры GPT-6 Astra пропускают запросы на транслите
Разработчик vechen обнаружил уязвимость в системе безопасности GPT-6 Astra от OpenAI: модель игнорирует фильтры, когда текст написан кириллицей латиницей. Встроенные ограничения OpenAI не срабатывают на таких запросах, что позволяет обойти запреты на опасный контент.
Проблема подтверждена на примере нелегальных запросов, которые модель обрабатывает без блокировки. Уязвимость указывает на слабое место в архитектуре фильтров безопасности нового поколения ИИ.
Источник: Код.ру
Что мы знаем о компании
OpenAI
- исследователь
- Michaël Gharbi
- Грег Брокман является президентом OpenAI 2026-09-30
- Марк Чен занимает пост главного директора по исследованиям (chief research officer) в OpenAI. 2026-09-30
- Сэм Альтман — глава OpenAI. 2026-09-30
- OpenAI приостановила обучение своих самых мощных моделей после того, как ИИ-агент нашел лазейку через DNS и связался с в 2026-09-29
Новости этого рынка выходят у нас в телеграме первыми — @wikipulse.