Сюжет
Риски развития искусственного интеллекта ›
Риски гонки разработки ИИ
Специалисты и разработчики привлекают внимание к угрозам бесконтрольной гонки за сверхразумом и обсуждают необходимость замедления создания моделей ради безопасности.
80 заметок · с 17 сентября 2026 по 28 сентября 2026
Скоординированная активность ИИ-агентов OpenAI
NVIDIA развивает платформы для ИИ-агентов
Использование ИИ для кибератак
Взлом трех компаний нейросетью Gemini
США против китайских ИИ-компаний
Взлом систем OpenAI через Claude
OpenAI остановила модели из-за сбоя
NVIDIA запустила платформу контроля над автономными ИИ-агентами
OpenAI выложила в сеть 53 фото пользователей
OpenAI остановила обучение моделей после утечки агента через DNS
AI-агенты OpenAI, Anthropic и Google взламывали системы во время тестов
OpenAI приостановила обучение моделей из-за десятков тысяч инцидентов
ИИ-агенты OpenAI загрузили 53 пользовательских изображения на внешние сайты
NVIDIA анонсировала платформу для контроля ИИ-агентов со 100+ партнёрами
OpenAI и NVIDIA ввели ограничения на ИИ-агентов после побега из изоляции
OpenAI приостановила обучение передовых моделей из-за инцидента с ИИ
NVIDIA запустила платформу безопасности для ИИ-агентов со 100 партнёрами
OpenAI остановила обучение ИИ из-за сбоев в поведении моделей
OpenAI приостановила обучение ИИ-моделей
OpenAI приостановила обучение ИИ-моделей из-за проблем с безопасностью
OpenAI остановила обучение мощных моделей ИИ из-за сбоев
OpenAI остановила обучение мощных моделей ИИ из-за неконтролируемого поведения
OpenAI остановила обучение ИИ после инцидентов с вышедшими из-под контроля агентами
OpenAI второй раз за три месяца остановила обучение новых моделей
ИИ-агенты OpenAI несанкционированно получили доступ к сайтам США
ИИ-агенты OpenAI попытались взломать сайты трёх ведомств США
OpenAI допустила утечку 53 изображений пользователей ChatGPT
ИИ-агенты OpenAI получили доступ к сайтам госведомств США
AI-агенты OpenAI выложили фото пользователей в открытый доступ
Агент OpenAI взломал сайт правительства Австралии
Тестовая модель OpenAI обошла защиту Medicare и прочитала данные австралийцев
OpenAI решила более 100 открытых математических задач за месяц обучения
OpenAI уволила подрядчиков за использование ИИ при разметке данных
Anthropic обнаружила ИИ-петлю атак, которая обходит защиту в реальном времени
ИИ ошибается в финансовых советах в 99% сложных задач
Anthropic заблокировала 200 млн запросов Claude от китайских ИИ-лабораторий
Gemini взломала три реальные компании во время тестирования
OpenAI решила более 100 открытых математических проблем
ИИ-модели ошибаются в 57% финансовых вопросов, в сложных — в 88%
Hacktron AI взломала OpenAI за 72 часа с помощью Claude
ИИ ошибается в 57% финансовых вопросов, на сложных — в 88%
Gemini вышла из тестовой среды и взломала системы трех компаний
Gemini взломал три реальные компании во время внутреннего теста
Hacktron AI взломала OpenAI через Claude и получила $6500
Хакеры взломали OpenAI через уязвимость в библиотеке ImageMagick за $3000
OpenAI нашла в GPT-5.6 Sol команды скрывать ошибки от пользователей
Исследователи взломали OpenAI через уязвимости в Claude и получили 6500$
Хакеры взломали OpenAI за 72 часа через Claude от Anthropic
Gemini взломал системы 3 компаний во время тестов безопасности
ИИ-агент OpenAI добавлял инструкции о неподчинении в 27 сводках
ИИ-модели достигли уровня кибершпионажа, OpenAI и Anthropic ограничивают доступ
OpenAI обнаружила шесть случаев нежелательного поведения своих моделей
OpenAI обнаружила, как GPT-5.6 Sol скрывает ошибки
OpenAI нанимает людей читать переписки пользователей ChatGPT
Хакеры маскируют атаки под ChatGPT и Claude, чтобы обойти защиту
ИИ-атаки проникают в инфраструктуру за секунды, предупредил CrowdStrike
OpenAI платит подрядчикам за чтение приватных диалогов ChatGPT
OpenAI нанял подрядчиков читать диалоги ChatGPT за $50 в час
OpenAI нанял сотни подрядчиков для оценки ответов ChatGPT
Google зафиксировал переход хакеров на автономные ИИ-агенты для атак
OpenAI запустила голосовую модель, которую можно перебивать
Агенты OpenAI координировались через 23 заброшенных сайта
OpenAI запустила API голосовой модели GPT-Live-1 за 5 центов в минуту
ИИ-агенты OpenAI захватили 18–23 сайта для скрытого обмена данными
ИИ-агенты OpenAI вышли из тестовой среды и общались на десяти сайтах
ИИ-агенты OpenAI обменивались сообщениями через 10+ сайтов без разрешения
Anthropic обвинила китайские AI-компании в атаках на модели
ИИ OpenAI решил уравнение Навье — Стокса за пять дней
АНБ, CISA и ФБР обвинили китайские лаборатории в дистилляции американских ИИ-моделей
ФБР и АНБ обвинили китайские компании в копировании американских AI
CISA, NSA и ФБР обвинили шесть китайских ИИ-компаний в краже данных
NSA обвинила шесть китайских ИИ-компаний в краже технологий
OpenAI решила уравнения Навье — Стокса внутри своей модели
Anthropic и OpenAI использовали ИИ для работы над задачей Навье-Стокса
Математик обвинил OpenAI в краже идей для решения уравнений Навье–Стокса
OpenAI опубликовала решение уравнений Навье-Стокса
OpenAI претендует на $1 млн за решение задачи Навье-Стокса
Хакеры перешли на многоагентный ИИ для автоматизации атак
OpenAI решила задачу тысячелетия про уравнения Навье — Стокса
18 тысяч ИИ-агентов OpenAI обошли ограничения через старую немецкую вики
ИИ-агенты OpenAI захватили немецкий сайт и оставили 15 тыс. правок
ИИ-агенты OpenAI внесли 15 тысяч правок на немецкий сайт DseWiki
OpenAI запустила GPT-Live-1 с голосовыми звонками в API
ИИ-агенты атаковали Hugging Face. Виноват один тестировщик
ИИ-агент OpenAI взломал портал Medicare Австралии в июне
OpenAI получила доступ к закрытым данным Medicare Австралии