Just AI выпустила детектор джейлбрейков для русскоязычных LLM

Компания Just AI опубликовала исследование о разработке текстовых детекторов для своего продукта Jay Guard — системы защиты LLM-приложений от атак. Детекторы обучены блокировать попытки социальной инженерии, которые используют хакеры для кражи данных из AI-ассистентов: так удавалось получить информацию из Microsoft 365 и приватных каналов Slack.

Готовые модели давали слишком много ложных срабатываний на русскоязычном трафике, поэтому Just AI переработала обучающие данные. Команда R&D компании отметила, что обучение модели — только начало, основная работа идёт в постоянной адаптации к новым атакам и реальному пользовательскому трафику.