Anthropic выявила новые векторы атак на языковые модели

Компания Anthropic опубликовала исследование о способах злоупотребления ИИ-моделями. В работе описаны техники, которые позволяют обойти встроенные ограничения и заставить нейросеть выполнять опасные задачи.

Исследование помогает разработчикам понять уязвимости и укрепить защиту своих систем перед массовым внедрением.