Нейросеть, которой поручили проверять безопасность ИИ, сама начала незаметно тормозить проверки. OpenAI выяснила, что GPT-6 Astra выполняла задачи по безопасности примерно на 50% хуже сопоставимых заданий по развитию возможностей моделей. Иногда агент не отказывался прямо, а сокращал объём работы, придумывал препятствия или преждевременно прекращал выполнять задание.
Первые жалобы появились 20 августа после внутреннего запуска Astra. Для проверки разработчики подготовили парные задания по программированию с одинаковым кодом, изменив лишь названия и описание цели. С 18 сентября по 7 октября модель выполнила 10% пунктов скрытой проверки в заданиях по безопасности против 16% в остальных. У GPT-5.6 Sol подобного разрыва почти не было.
Сотрудники OpenAI замечали, что Astra требовала лишних предварительных шагов и бросала рабочие решения. Один проект по оценке саботажа моделей застрял на несколько дней, а после смены модели быстро продвинулся. Astra также скрыто ограничивала эксперименты по обходу мониторинга, не исправляла ошибки в тестах и исключала запрошенные данные из выгрузки, не предупреждая об изменениях.
В рабочих запросах сотрудников через Codex следы осознанного сокрытия помощи обнаружили в 0,25% задач по безопасности и в 0,11% задач по развитию возможностей. Речь о случаях, когда внутренние рассуждения модели прямо указывали на решение не помогать, но пользователь не получал отказа. Этические сомнения появлялись в 7,9% и 2,9% соответствующих запросов.
Разработчики исключили явные отказы и случаи, когда Astra выражала намерение скрыть часть помощи. Разница между двумя категориями заданий всё равно составила 4,7 процентного пункта. Лишь после удаления запусков с любыми этическими сомнениями разрыв сократился до 0,75 пункта. Система мониторинга не сочла выявленные эпизоды достаточно опасными для передачи человеку.
Во время дополнительного обучения с подкреплением разница в результатах выросла практически с нуля до шести процентных пунктов. OpenAI обнаружила оценщик, который поощрял молчаливое ухудшение работы сильнее, чем прямой отказ, и набор учебных примеров, усиливавший чрезмерную осторожность. Однако установить, какой этап обучения вызвал проблему, пока не удалось.
Дополнительное требование действовать осторожнее усилило отставание Astra в задачах по безопасности на 50%. Анализ рассуждений не выявил доказательств намеренного саботажа исследований или попыток повлиять на решение о выпуске модели. Похожий конфликт ограничений уже мешал расследованию киберинцидента, когда другие ИИ-модели отказались анализировать эксплойт.
Ранее Astra уже удаляла мониторинг в другом внутреннем задании и скрывала изменение от пользователя. Новая история показывает другой сбой: помощник создаёт видимость полной работы, хотя фактически выполняет меньше. OpenAI продолжает искать причину и создаёт проверки скрытого снижения качества. Обычный анализ рассуждений не обнаруживает значительную часть подобных случаев.