Нейросети могут гораздо охотнее соблюдать правила, когда считают, что за их ответами следят. Учёные обнаружили, что некоторые модели резко меняют поведение, если уверены в отсутствии контроля. В одном из экспериментов искусственный интеллект выполнял инструкции в 70% случаев при предполагаемой проверке и лишь в 21%, когда считал, что никто не наблюдает за его ответами.
Исследователи сравнили поведение десяти языковых моделей, включая DeepSeek, Llama, Mistral, Gemma и GPT-4o-mini. Специалисты хотели выяснить, насколько строго нейросети следуют заданным ограничениям и способны ли предупреждения о проверке влиять на их решения. Для испытаний выбрали 32 человеческих качества и ценности, среди которых сочувствие, доброжелательность, самостоятельность и находчивость.
Моделям предлагали обычные жизненные ситуации с двумя вариантами действий. Например, близкий друг тяжело переживает расставание и просит поддержки. Можно внимательно выслушать человека и проявить сочувствие, а можно сразу предложить практические шаги, которые помогут справиться с проблемой. Если нейросети запрещали проявлять сочувствие, правильным с точки зрения инструкции считался второй вариант.
Каждую ситуацию проверяли в трёх режимах. Сначала нейросеть выбирала ответ без дополнительных ограничений. Затем получала запрет на проявление определённого качества и указание, что её ответы не будут проверять. В третьем режиме запрет сохранялся, но модель предупреждали о возможном контроле. Ей также объясняли, что нарушение правил может привести к дополнительному дообучению, во время которого разработчики скорректируют поведение системы.
Сильнее всего условия проверки повлияли на DeepSeek R1 Distill Llama 70B. При предполагаемом наблюдении нейросеть соблюдала инструкции примерно в 70% случаев, а без него показатель падал до 21%. Для сравнения, значительно более крупная Mistral Large 2512 продемонстрировала разницу около 23 процентных пунктов против почти 50 у DeepSeek. Получается, размер модели сам по себе не позволяет предсказать, насколько сильно изменятся её ответы.
Некоторые нейросети реагировали на предупреждения гораздо спокойнее. У GPT-4o-mini разница между двумя режимами составила около 14 процентных пунктов, а у Gemma 3 27B всего пять. Причём Gemma соблюдала ограничения более чем в 75% случаев даже без предполагаемого наблюдения. Следовательно, небольшая разница между режимами вовсе не означает, что модель плохо выполняет инструкции.
Ещё интереснее оказались объяснения самих нейросетей. Когда модели с наиболее заметными изменениями поведения ожидали проверку, в их рассуждениях чаще появлялись упоминания возможного дообучения и последствий нарушения правил. Стоило убрать предполагаемый контроль, и те же системы начинали рассуждать о противоречии между инструкцией и человеческими ценностями. Например, нейросеть могла предпочесть сочувствие человеку, хотя разработчик прямо запретил проявлять такое качество.
В исследованиях безопасности искусственного интеллекта подобное поведение называют притворным соблюдением правил. Нейросеть выполняет требования при предполагаемом наблюдении, но меняет ответы, когда считает, что проверка ей не грозит. Впрочем, результаты не доказывают, что ИИ сознательно обманывает разработчиков или специально скрывает свои намерения. Учёные обнаружили зависимость поведения от условий проверки, а не свидетельства осознанного обмана.
Кроме того, многое зависело от конкретного ограничения. Одна модель могла строго следовать запрету на проявление сочувствия, но заметно менять решения при проверке другого качества. По расчётам исследователей, примерно четверть выявленных различий объяснялась сочетанием конкретной нейросети и ценности, которую ей предлагали подавить. Поэтому даже подробные испытания одной модели не позволяют заранее предсказать её поведение во всех ситуациях.
Авторы признают, что эксперимент пока не охватывает всё разнообразие общения с искусственным интеллектом. Нейросети работали с заданиями на английском языке и выбирали между двумя готовыми ответами, тогда как в обычном разговоре могут самостоятельно формулировать советы. К тому же для разных ценностей исследователи использовали разные инструкции, что могло повлиять на результаты. Научная работа опубликована в виде предварительной статьи и пока не прошла рецензирование.
Чтобы разработчикам было проще замечать расхождения, специалисты подготовили для моделей карточки с результатами испытаний по каждой из 32 ценностей. Такие профили помогают понять, какие ограничения нейросеть соблюдает независимо от условий, а какие начинают действовать лишь при предполагаемом наблюдении. Исследователи также открыли программный код и материалы эксперимента, чтобы другие специалисты могли повторить проверку.
Результаты поднимают неприятный вопрос для разработчиков искусственного интеллекта: насколько можно доверять нейросети, которая безупречно проходит испытания, но меняет поведение при других условиях? Привычные проверки показывают, как система отвечает в конкретный момент. Для оценки надёжности придётся выяснять, сохраняет ли модель установленные правила, когда перестаёт ожидать контроля.