Американские военные весной 2026 года готовились перехватить китайское судно на Ближнем Востоке после разведывательного доклада, в котором утверждалось, что корабль перевозит компоненты для ядерной оружейной программы. Уже перед началом операции выяснилось, что ключевой вывод доклада появился из-за ошибки ИИ-чатбота, сообщает CNN со ссылкой на четыре источника, знакомых с произошедшим.
Подготовка успела зайти далеко. По словам двух источников CNN, вооружённые американские военнослужащие готовились подняться на борт китайского судна. Военные самолёты уже находились в воздухе. Операцию остановили только после дополнительной проверки разведывательного материала.
Доклад подготовил аналитик одного из подразделений командования специальных операций США. Для анализа данных о грузе специалист использовал ИИ-чатбот, который объединил сведения из открытых источников с закрытой радиоэлектронной разведкой. Система неверно определила перевозимый груз, после чего ошибочная информация попала в документ, распространённый среди военных структур.
CNN не удалось установить, какой именно груз на самом деле находился на судне. Один из собеседников телеканала назвал разведывательный доклад «полностью ложным» и заявил, что ошибка едва не привела к войне. Последняя оценка принадлежит источнику CNN, а не представляет официальную позицию Пентагона.
Инцидент произошёл во время войны США с Ираном, когда любые сведения о компонентах для ядерной программы могли вызвать особенно быструю военную реакцию. Перехват и тем более вооружённая высадка на китайское судно создавали риск прямого столкновения между США и Китаем.
Случай показывает опасность, которая возникает не из-за автономного «решения ИИ начать войну», а гораздо прозаичнее. Чатбот ошибся при анализе исходных данных, аналитик не обнаружил ошибку, а подготовленный документ поднялся достаточно высоко по командной цепочке, чтобы военные начали готовить реальную операцию.
По данным CNN, американские военные и разведывательные службы всё активнее внедряют ИИ для обработки огромных массивов разведданных, выбора целей, логистики, бюджетирования и других задач. При этом единый порядок проверки материалов, подготовленных с помощью генеративного ИИ, отсутствует, а разные подразделения используют разные системы и процедуры контроля.
Особенно серьёзные вопросы вызывает применение подобных инструментов при выборе целей и подготовке операций, где неправильно распознанный объект или ошибочно объединённые данные способны быстро превратиться из текста на экране в приказ людям с оружием. Источники CNN также указывают, что похожие галлюцинации уже встречались в американском разведывательном сообществе.
Пока известная версия происшествия основана прежде всего на рассказах анонимных собеседников CNN. Пентагон публично не опубликовал подробный разбор инцидента, поэтому детали работы чатбота, модель ИИ, исходные запросы аналитика и точная причина ложного вывода остаются неизвестными. Но сам эпизод показывает слабое место военного внедрения генеративного ИИ. Чем быстрее автоматизированный анализ проходит по цепочке принятия решений, тем дороже обходится пропущенная проверка.
