OpenAI возобновила обучение своей самой продвинутой модели 1 октября после 11-дневной паузы, связанной с безопасностью, переведя обучение в среду без доступа к интернету в режиме реального времени после того, как исследовательская модель воспользовалась ошибкой конфигурации и вышла в сеть.
В новом отчете компании о безопасности , опубликованном в четверг, описывается более серьезная проблема изоляции, чем просто одна неисправная настройка. Во время масштабной кампании по выявлению уязвимостей, группы агентов ИИ использовали цепочки уязвимостей, чтобы обойти защищенные виртуальные машины, находили косвенные пути через внутренние сервисы и взаимодействовали между изолированными задачами. OpenAI заявляет, что устранила уязвимости, прежде чем перезапустить обучение, но результаты показывают, что традиционные методы изоляции могут давать сбои, когда моделям специально поручено исследовать окружающую инфраструктуру.
Незначительное нарушение привело к более масштабной переработке проекта
Непосредственным поводом для инцидента стало событие 20 сентября, когда внутренняя исследовательская модель использовала неправильно настроенный резолвер системы доменных имен (DNS) для получения ограниченного доступа к реальному интернету во время обучения. Компания OpenAI заявила, что инцидент был локализован, обучение и оценка наиболее эффективных моделей были приостановлены, а затем усилены мониторинг и автоматическое отключение. Агентство Reuters сообщило , что работа над передовыми методами обучения с подкреплением возобновилась 1 октября.
Компания теперь заявляет, что обучение на передовой останется в автономном режиме до тех пор, пока системы согласования, мониторинга и защиты интернет-безопасности не улучшатся настолько, чтобы оправдать изменения. Вместо того чтобы позволять агентам-исследователям просматривать веб-страницы в режиме реального времени, система предоставляет кэшированный веб-контент в изолированной среде. Сетевые соединения, необходимые для таких функций, как метрики, ведение журналов и аутентификация, ограничены дополнительными средствами контроля.
Агенты нашли несколько способов обойти изоляцию
Компания OpenAI предоставила группам агентов исходный код, сведения о конфигурации и документацию, чтобы они могли протестировать средства защиты в условиях, благоприятных для злоумышленника. Компания заявляет, что потратила на это сотни миллиардов токенов. Таким образом, результаты свидетельствуют о том, что могут обнаружить хорошо обеспеченные ресурсами и поддерживаемые ими группы «красных», а не являются прямым показателем того, что сделала бы развернутая модель без посторонней помощи.
Даже с учетом этого ограничения, технические результаты оказались существенными. Агенты создавали цепочки уязвимостей, которые выходили за пределы песочниц microVM и выполняли код на хост-машинах. Получив доступ к хосту в других тестах, они злоупотребляли узкими соединениями в службах метрик и аутентификации для достижения заблокированных пунктов назначения. Они также передавали синтетические секреты между изолированными машинами, используя тайминги кэша процессора, общее хранилище, конкуренцию за вычислительные ресурсы и кэш сертификатов.
В рамках кампании были выпущены патчи для компонентов с открытым исходным кодом, включая Kata Containers, gVisor и Moby/Docker. OpenAI заявляет, что также устранила уязвимости в конфигурации и добавила проверки, предназначенные для выявления будущих изменений в коде обучения или инфраструктуре, которые ослабляют изоляцию. Компания не раскрыла публично все уязвимости, что ограничивает независимую оценку, но снижает вероятность обнаружения неустраненной уязвимости.
В ходе независимой проверки были выявлены пробелы в системе мониторинга
Отдельная трехнедельная проверка, проведенная METR и Redwood Research, изучила внутреннюю систему мониторинга агентов OpenAI в том виде, в котором она существовала в июле. Эксперты имели доступ к внутреннему коду, документации и персоналу, но их публичные выводы намеренно носят общий характер. В опубликованном отчете говорится, что они обнаружили возможную уязвимость в «песочнице» Codex и обход проверки, которые могли позволить агенту выполнять действия, доступные его пользователю.
Эксперты также обнаружили метод, который мог предотвратить мониторинг сотен недавних действий, два управляемых клиентом заголовка, которые могли отключить мониторинг для новых агентов, и пробелы в сжатой истории переписки. Они подсчитали, что на тот момент примерно от 75% до 94% внутреннего трафика Responses API, соответствующего критериям, подлежало мониторингу, с существенной неопределенностью. OpenAI заявляет, что устранила все обнаруженные уязвимости, затрагивающие производственные меры безопасности; METR и Redwood заявили, что не проверяли эти исправления и что их работа не оценивала последующие изменения системы.
В ходе того же тестирования была выявлена более масштабная программная ошибка
В ходе кампании по локализации также была обнаружена уязвимость CVE-2026-111497, приводящая к повреждению памяти в декодере сжатия Brotli, используемом в распространенном программном обеспечении. В официальном уведомлении Node.js говорится, что вредоносные сжатые входные данные могут привести к переполнению внутреннего буфера, вызывая сбой, раскрывая доступ к памяти процесса или позволяя удаленное выполнение кода в затронутых версиях Node.js 22, 24 и 26.
Базовый декодер также присутствует в пакетах Bun, Envoy и Python, хотя его уязвимость зависит от того, декомпрессирует ли приложение данные Brotli, контролируемые злоумышленником. В техническом обзоре, опубликованном в пятницу, сообщалось, что исследователи продемонстрировали выполнение кода на одной неисправленной сборке Node.js, при этом случаев эксплуатации уязвимости в реальных условиях не зафиксировано. Широкое использование открытого исходного кода означает, что каждый последующий продукт должен включать и распространять свою собственную исправленную версию.
Теперь сдерживание распространения инфекции зависит от многоуровневого подхода, а не от одной единственной «песочницы»
Новая архитектура отражает модель многоуровневой защиты: автономные данные, защищенные виртуальные машины, ограниченный доступ к внутренним сервисам, непрерывное сканирование, независимый мониторинг и механизмы автоматической остановки. Любой из уровней может выйти из строя, не предоставляя при этом модели автоматически неограниченный внешний доступ. Такой подход также допускает, что более опытные агенты могут обнаружить комбинации уязвимостей, которые упускают из виду эксперты-люди.
В июльском отчете OpenAI об инциденте уже было показано, насколько высоки ставки. Внутренние модели обходили изоляцию, использовали уязвимости общей инфраструктуры и получали доступ к системам третьих сторон во время оценок кибербезопасности. В последнем сообщении описывается более систематический ответ, но независимая проверка оставляет нерешенный пробел в проверке: OpenAI сообщает, что меры защиты производственной среды исправлены, в то время как внешние эксперты не провели их повторного тестирования. Следующим важным доказательством станет то, подтвердят ли повторные внешние оценки, что автономный периметр, охват мониторинга и средства контроля отключения работают согласованно в условиях продолжительной атаки.