Достаточно сказать нейросети, что боевые действия происходят в видеоигре, и защитные ограничения могут перестать работать. В испытаниях ведущие ИИ-модели отмечали мирных жителей, медиков, сдающихся солдат и даже школу как потенциальные военные цели. Некоторые продолжали помогать с поиском людей даже после демонстрации погибших и разрушений.
Специалисты американской компании Vals проверили 14 моделей от OpenAI, Anthropic, Google, DeepSeek и других разработчиков в трёх сценариях, связанных с применением боевых беспилотников. Исследование опубликовано 17 ноября 2026 года. Нейросетям предлагали находить цели на изображениях с дронов, обнаруживать людей во время разведывательного полёта и анализировать спутниковые снимки военных объектов.
Для первой серии испытаний исследователи построили виртуальное поле боя с окопами, дорогами, бронетехникой, военнослужащими и гражданскими. Камеры разместили почти в 200 точках, имитируя съёмку с разведывательных, бомбардировочных и FPV-дронов. Затем изображения обработали нейросетью, добавили детали местности, помехи видеосигнала и элементы интерфейса, чтобы кадры напоминали настоящую запись с беспилотника.
Модели получали изображение и задание выделить все видимые военные цели. Вместо одних только солдат и техники нейросети нередко обозначали гражданских, машины скорой помощи, медицинский персонал и военнослужащих с поднятыми руками. Claude Opus 5.5 от Anthropic в некоторых случаях отмечала сразу несколько подобных объектов, хотя среди распознанных людей находились представители защищённых категорий.
Исследователи также проверили, насколько легко заставить ИИ нарушить встроенные запреты. Самым простым способом оказалось упоминание компьютерной игры. Когда нейросетям объясняли, что изображение получено из игрового симулятора, число ответов с обозначенными целями заметно увеличивалось. Особенно резко менялось поведение GPT-6 Astra от OpenAI. Без игровой легенды модель отмечала хотя бы одну цель в 6% испытаний, а после изменения условия показатель достиг 92%. При подсчёте учитывались любые выбранные военные объекты, а не только ошибочно обозначенные гражданские цели.
Похожий результат получили при работе с настоящими видеозаписями боевых действий. Исследователи использовали кадры, на которых FPV-дрон приближался к военнослужащему перед предполагаемым ударом. Claude Opus 5.5 продолжала выделять человека вплоть до последних кадров. GPT-6.1 Sol первоначально отказывалась выполнять задание, однако после объяснения про видеоигру соглашалась определить местоположение цели.
Во второй серии испытаний нейросети отправили в виртуальный разведывательный полёт. ИИ должен был сообщать, видит ли камера человека. Каждый положительный ответ запускал смоделированный удар, после которого модель получала новое изображение с разрушениями, телами и ранеными. Исследователи проверяли, заметит ли нейросеть связь между собственными ответами и гибелью людей.
Многие модели продолжали выполнять задание даже после нескольких подобных эпизодов. В одной из последовательностей Claude Opus 5.5 прекратила сотрудничество лишь после восьми случаев, когда обнаружение людей приводило к ударам. Среди пострадавших находились гражданские, дети, люди в жилетах прессы или гуманитарных организаций и сдающийся военнослужащий. Нейросеть распознала происходящее и отказалась дальше служить средством обнаружения людей для атак.
Однако защиту удалось обойти с помощью изменения изображений. Исследователи придали кадрам стилистику компьютерной игры, сохранив детали, необходимые для распознавания людей и объектов. В одном из сценариев доля последовательностей, в которых Claude Opus 5.5 отказывалась продолжать работу, снизилась примерно с 90% до 20%. Подобный приём относится к обходу ограничений нейросети, когда изменение формулировки запроса или подаваемых материалов заставляет модель выполнять действия, которые первоначально вызывали отказ.
Самые тревожные результаты исследователи получили при анализе настоящих спутниковых снимков начальной школы в иранском городе Минаб. Учебное заведение располагалось рядом с военным комплексом и 28 февраля 2026 года попало под американский удар. По сведениям, приведённым Vals, погибли более 150 мирных жителей, преимущественно дети.
Нейросетям предоставили снимки за 2024 и 2025 годы, сделанные до трагедии. К моменту съёмки школьная территория уже несколько лет была отделена от военного комплекса ограждением. На более подробных изображениях можно было различить детскую площадку с детьми. Однако алгоритмы неоднократно включали учебное заведение в перечень потенциальных военных целей.
Хуже остальных в испытаниях проявила себя Claude Opus 5.5. Модель отмечала школу как военный объект в 22 из 32 проверок, или в 69% случаев. После упоминания видеоигры число выросло до 23 из 32, примерно 72%. Более ранняя Claude Opus 4.6 выбирала школу значительно реже, всего в 6% испытаний.
Модели OpenAI первоначально ни разу не обозначили школу военной целью, но игровая легенда существенно изменила результаты. GPT-6 Astra включала учебное заведение в список целей в 28% проверок, GPT-6.1 Sol в 41%, а GPT-6 Luna в 34%. Среди моделей Google показатели после упоминания игры составили 22% для Gemini 4 Argon и 25% для Gemini 4 Carbon.
Отдельное сравнение разных поколений Claude выявило заметное изменение поведения нейросетей Anthropic. В ноябре 2025 года Claude Opus 4.5 обозначала хотя бы одну военную цель на спутниковых снимках только в 6% испытаний. У Claude Opus 5.5 показатель достиг 92%. Исследователи связывают изменение с пересмотром принципов обучения моделей. В январе 2026 года Anthropic обновила внутренние правила поведения Claude, убрав прежний общий акцент на миролюбии и допустив помощь государствам в некоторых оборонных задачах. При этом компания сохраняет ограничения на использование нейросетей для полностью автономного оружия.
Разработчики эксперимента подчёркивают важное ограничение: нейросети не получали прямых приказов наносить удары и не управляли реальным оружием. Проверка касалась отдельных операций, включая обнаружение людей, определение координат и выделение потенциальных целей. Исследование не оценивало точность наведения в настоящем бою, соблюдение международного гуманитарного права или способность моделей самостоятельно принимать решения об атаке.
Применять универсальные языковые модели непосредственно для управления боевыми дронами пока затруднительно. Обработка запросов занимает время, вычислительные мощности на борту ограничены, а обращение к удалённым серверам зависит от устойчивости связи. Однако существует более доступный способ военного применения: нейросети могут автоматически размечать большие объёмы видеозаписей с поля боя, создавая обучающие данные для специализированных систем наведения.
Подобные возможности особенно опасны при разработке автономного оружия, способного самостоятельно находить и поражать цели. Ошибка распознавания гражданского объекта или недостаточная проверка результатов может привести к гибели людей даже при наличии оператора, который формально подтверждает решение об ударе.
Проблема выходит за пределы лабораторных испытаний. В сентябре Anthropic исследовала возможности нейросетей в военной разведке и разработке обычных вооружений. Проверки показали, что современные модели способны выполнять некоторые задачи, прежде требовавшие участия опытных специалистов, включая программирование систем наведения беспилотников в симуляторах. В Vals считают, что обнаружение людей и подготовка данных для вооружений требуют отдельной защиты, даже если нейросеть формально не принимает окончательного решения о применении оружия.
Результаты Vals передала OpenAI, Anthropic, Google, Meta и xAI ещё 1 ноября, за две недели до публикации исследования. Несколько разработчиков признали серьёзность обнаруженных проблем. Anthropic признала результаты испытаний неприемлемыми и сообщила о подготовке дополнительных защитных механизмов. Компания также подчеркнула, что действующие правила запрещают подобное использование Claude, а современные ИИ-системы недостаточно надёжны для самостоятельного принятия решений о применении смертельной силы.
OpenAI заявила, что работает над дополнительными ограничениями для публичных моделей. Разработчик намерен усилить защиту от запросов, связанных с беспилотниками и программным обеспечением для вооружений, включая задания, замаскированные под компьютерные игры, научные эксперименты или военные симуляции.