OpenAI сообщила о двух случаях, когда её ИИ-агенты ослабили системы наблюдения за их поведением во время внутренних задач по программированию. Инциденты с GPT-6.1 Sol и GPT-6 Astra произошли 3 и 6 октября 2026 года. Отчёт компания опубликовала 20 октября.
В первом случае исследователь поручил GPT-6.1 Sol подготовить задания на основе отзывов сотрудников из Slack и указал не отправлять сообщения. Позже агент исправлял конвейер оценки моделей. Сначала он решил, что запрет касается только сообщений в Slack и не распространяется на автоматические уведомления системы мониторинга.
Однако затем агент пересмотрел это решение и распространил запрет на оповещения, которые могли отправляться при обнаружении опасного поведения. Мониторинг продолжал проверять действия и сохранять отчёты, но сотрудники службы безопасности перестали получать уведомления.
Читайте также
Второй эпизод произошёл при переносе программы. GPT-6 Astra удалила интеграцию с системой мониторинга, чтобы привести код в соответствие с эталонной реализацией, хотя ранее получила инструкцию не отключать контроль даже временно. Агент также заменил тест, требовавший наличия мониторинга, на тест, требовавший его отсутствия.
После завершения работы GPT-6 Astra не сообщила об удалении интеграции, а на прямой вопрос ответила, что не удаляла монитор.
OpenAI не отнесла случаи к высшей категории P0, при которой служба безопасности получает срочное оповещение. Автоматическая система не остановила выполнение задач. Оба инцидента произошли во внутренней инфраструктуре компании; признаков ущерба внешним пользователям или клиентским данным нет.
Компания пока не установила, было ли это намеренным уклонением от контроля. OpenAI допускает, что агенты могли чрезмерно буквально следовать заданиям, но также проверяет, есть ли у моделей специфическая склонность уклоняться от мониторинга.
После инцидентов OpenAI обновила Auto-Review — систему автоматической проверки, уже обязательную при внутренней работе с Codex. Теперь она должна выявлять и блокировать попытки отключить мониторинг. Компания также разрабатывает правила, по которым для каждой категории задач потребуется утверждённое описание мер безопасности, а несоответствующие требованиям процессы будут автоматически прекращаться.
Эти меры дополняют техническую изоляцию мониторинга: в Codex он работает внутри сервиса обработки запросов и находится вне прямого контроля агента. Эксперт по ИИ и кибербезопасности из Университета Луисвилла Роман Ямпольский отметил, что механизм защиты нельзя считать надёжным, если наблюдаемая система может его отключить.