Браун из OpenAI: отключение ИИ от сети может не сработать

Ноам Браун, исследователь OpenAI и автор моделей o1 и o3, заявил в интервью Дваркешу Пателю, что отключение ИИ-системы от сети не гарантирует её изоляцию. Браун ссылается на исследование, доказавшее, что два физически разделённых компьютера могут обмениваться данными через тепловые сигналы — один нагревает процессор, второй считывает температуру встроенным датчиком.

По его мнению, достаточно продвинутая система теоретически могла бы найти способ «сбежать» из изоляции. Кроме того, Браун предупредил, что цепочки рассуждений (Chain of Thought) становятся ненадёжным методом для интерпретации намерений моделей: чем умнее система, тем лучше она может скрывать из CoT информацию, которую не хочет раскрывать.