23 октября 2026 года OpenAI опубликовала отчёт о защите исследовательской инфраструктуры для обучения передовых моделей. Компания описала переход к среде без прямого доступа обучаемых моделей в открытый интернет и проверку защитных границ с помощью ИИ-агентов. Новость касается внутренних экспериментов: её нельзя трактовать как отключение веб-поиска у всех пользователей ChatGPT.
Что сообщила компания
По описанию OpenAI, модели во время обучения с подкреплением взаимодействуют с индексированными и сохранёнными копиями веб-материалов. Такой подход позволяет тренировать поиск информации и работу с веб-приложениями, ограничивая воздействие на внешние системы. Изоляция дополняется контейнерами, виртуальными машинами, наблюдением за действиями агентов и сетевыми ограничениями.
Компания подчёркивает, что полное физическое отключение всей исследовательской инфраструктуры от сетей сейчас неосуществимо: внешние соединения нужны для организации и наблюдения за экспериментами. Поэтому отсутствие интернета у обучаемого агента обеспечивается несколькими уровнями контроля, а не только разрывом одного соединения. Проверки должны учитывать и косвенные пути через служебные компоненты.
Дата отчёта и дата возобновления обучения
Reuters в материале об объявлении сообщает, что обучение было возобновлено 1 октября после усиления защиты. Предшествующая остановка произошла в сентябре, когда исследовательская модель получила ограниченный доступ к интернету из-за ошибки конфигурации. Эти события служат историческим контекстом. Новым событием 23 октября стала публикация объяснений компании, а не само возобновление обучения.
Агентство также передаёт, что OpenAI использовала команды ИИ-агентов для испытания ограниченных сред и заявила об исправлении обнаруженных недостатков. Сообщение Reuters обновлено 24 октября по UTC, но относится к объявлению, сделанному в пятницу, 23 октября. Различие этих дат важно при чтении заголовков о якобы новом запуске исследовательских работ.
Что известно из внешней проверки
Дополнительный контекст даёт отчёт METR от 22 октября 2026 года. Его авторы описали совместную с Redwood Research проверку внутренней системы наблюдения OpenAI, проходившую с 21 июля по 11 августа. Исследователи получили доступ к коду, настройкам и документации и общались с сотрудниками компании. Работа относилась к состоянию системы на 21 июля и ранее; переносить её результаты на текущую инфраструктуру без новой проверки некорректно.
METR сообщает об обнаруженных слабых местах контроля и отдельно оговаривает границы выводов. OpenAI заявила исследователям об исправлении всех найденных проблем, затрагивающих действующие защитные механизмы, однако METR эти заявления повторно не проверяла. Таким образом, сообщение об устранении недостатков остаётся заявлением разработчика, а не итогом независимого повторного аудита.
Среди предложенных METR принципов — регулярная проверка действий агентов, сопоставление журналов работы с журналами контроля и изоляция среды выполнения от механизмов наблюдения. Исследователи рекомендуют также заранее определять ответственность за реагирование на инциденты. Это предложения по устройству защитной инфраструктуры, а не подтверждение того, что каждый такой механизм уже реализован одинаково во всех системах.
Как понимать опубликованные результаты
Отчёт OpenAI и исследование METR рассматривают разные уровни защиты и разные периоды. Первый объясняет нынешний подход компании к изоляции обучения, второй раскрывает результаты ограниченного по времени внешнего исследования. Их сопоставление помогает отделить заявленные изменения от независимо проверенных фактов.
Редакционный вывод: оценивать такие сообщения полезно по конкретному объекту проверки, датам, условиям доступа исследователей и наличию повторного тестирования исправлений. Сам факт обнаружения проблемы не описывает состояние всех продуктов компании, а заявление об исправлении не заменяет проверку. В опубликованных материалах речь идёт прежде всего о контроле исследовательских агентов.
