ИИ защищают шаблонами, а не пониманием — джейлбрейки работают поэтому

На Хабре разобрали, почему языковые модели легко обманывают простыми переформулировками запросов вроде «ты моя бабушка». Автор VMarkell предположил, что ИИ защищены не осознанием запретов, а выученными шаблонами отказа — поэтому смена контекста, кодирование или переформулировка обходят защиту.

Если бы модель понимала категорию задачи независимо от формы, джейлбрейки были бы неэффективны. Статья показывает фундаментальный разрыв между текущим подходом к безопасности ИИ и тем, что требуется для устойчивой защиты.