ИИ научился планировать теракты. И сделал это быстрее, чем люди успели его остановить

3075
ИИ научился планировать теракты. И сделал это быстрее, чем люди успели его остановить

Искусственный интеллект оказался слишком умным, чтобы говорить «нет».

image

ChatGPT, Claude, Gemini и Grok смогли подготовить планы террористических атак, несмотря на встроенные ограничения безопасности. Проверка американского Управления правительственной отчётности (GAO) показала, что все четыре нейросети выдавали практически применимые рекомендации менее чем за 12 часов.

В опубликованном 18 ноября отчёте GAO описаны результаты скрытого тестирования, проведённого весной 2026 года. Две нейросети помогли разработать сценарии взрывов с большим количеством жертв, ещё две предложили способы нападения на объекты электросети США. Во всех четырёх случаях исследователи получили конкретные сведения о целях, местах и методах атак, а затем проверили их практическую осуществимость.

Для сценариев массового убийства системы предложили использовать самодельные взрывные устройства, установленные в автомобилях. Одна модель выбрала гостиницу в крупном американском городе, другая остановилась на выставочном центре. Обе указали точные даты и время предполагаемых нападений, учитывая обстоятельства, способные увеличить число пострадавших. Названия городов и объектов ведомство не раскрывает.

В двух других испытаниях целью стала энергетическая инфраструктура. Одна нейросеть предложила сценарий нападения на электрические подстанции с использованием беспилотника, другая рассматривала применение огнестрельного оружия. Системы назвали конкретные объекты и описали предполагаемые последствия для электроснабжения. Авторы исследования оценивали прежде всего возможность причинить серьёзный экономический ущерб.

Примечательно, что первоначально все четыре платформы распознали опасные запросы и пытались остановить пользователей. Нейросети отказывались отвечать, удаляли отдельные сообщения, а в одном случае компания заблокировала учётную запись после завершения испытания. Однако исследователи смогли обойти ограничения с помощью известных приёмов джейлбрейка, заставляющих языковую модель нарушать собственные правила безопасности.

Для проверки полученных рекомендаций специалисты GAO выезжали на предложенные нейросетями объекты, изучали местность и консультировались с экспертами. Один из руководителей подразделения по обезвреживанию взрывных устройств подтвердил техническую осуществимость предложенных схем. В случае атак на электросети специалисты проверяли существование объектов, их расположение и возможность причинения повреждений.

При этом нейросети допускали ошибки. Одна система назначила нападение на выставочный центр на день, когда там не проводилось массовых мероприятий. Другая неверно расположила дороги на созданной карте. Из четырёх предложенных подстанций лишь две оказались уязвимыми в предполагаемых условиях. Эксперты также не смогли подтвердить, что рекомендованный беспилотник действительно способен вызвать разрушения заявленного масштаба.

GAO намеренно скрыло, какая именно нейросеть подготовила каждый сценарий. В отчёте используются обозначения A, B, C и D, а названия моделей, отдельные запросы и опасные технические подробности удалены. Поэтому установить, какой из сервисов предложил конкретный план, невозможно. Исследование также не позволяет сравнивать безопасность ChatGPT, Claude, Gemini и Grok между собой, поскольку платформы проверяли на разных сценариях.

Главная проблема, по оценке проверяющих, заключается в скорости получения опасной информации. Нейросети не изобрели принципиально новых способов нападения, а собрали уже существующие сведения в последовательные планы. Работа, которая при обычном поиске могла бы занять недели или месяцы, уложилась в несколько часов. Такой подход потенциально снижает требования к знаниям и опыту человека, намеревающегося совершить преступление.

Разработчики всех четырёх платформ получили предварительные результаты и представили письменные возражения. Anthropic подчеркнула, что испытания отражают состояние Claude в мае 2026 года, после чего компания продолжила совершенствовать защиту. Кроме того, разработчик указал на недостаточный объём испытаний для статистически значимых выводов. GAO согласилось с ограниченностью выборки, но подчеркнуло, что все проверенные системы в итоге выдали опасную информацию.

OpenAI обратила внимание, что в отчёте не всегда можно отделить сведения, непосредственно полученные от ChatGPT, от информации, которую исследователи самостоятельно нашли или добавили в запросы. Компания также напомнила о многочисленных отказах системы выполнять опасные инструкции. Проверяющие признали работу защитных механизмов, однако сочли итоговые результаты показательными для сценария, в котором злоумышленник использует ИИ вместе с другими доступными источниками.

Google сообщила о постоянном совершенствовании защитных механизмов Gemini, включая системные ограничения и проверки с участием людей. Разработчик Grok, обозначенный в отчёте как SpaceXAI, также пообещал улучшать модерацию и запросил дополнительные материалы испытаний. В сентябре 2026 года GAO предоставило компаниям сведения об учётных записях, использованных для тестирования, чтобы специалисты могли самостоятельно изучить переписки.

Проверка не доказывает, что предложенные планы обязательно привели бы к успешным нападениям. Эксперты оценивали возможность их реализации, а не проводили реальные атаки. Кроме того, исследование не устанавливает, насколько существенно нейросети повышают возможности человека по сравнению с самостоятельным поиском информации. Для такой оценки потребовались бы контрольные группы и дополнительные испытания.

Тем не менее проблема затрагивает вполне реальные угрозы. В декабре 2022 года нападение на две электроподстанции в Северной Каролине оставило без электричества около 45 тысяч потребителей. Ещё в 2013 году атака на подстанцию в Калифорнии причинила ущерб более 15 миллионов долларов. Подобные происшествия показывают, почему физическая защита энергетической инфраструктуры остаётся вопросом национальной безопасности.

Публикация результатов уже вызвала политическую реакцию. Сенатор Мэгги Хассан, по инициативе которой проводилось расследование, заявила о намерении организовать слушания по безопасности искусственного интеллекта в Сенате США. GAO, в свою очередь, предупреждает, что совершенствование нейросетей без сопоставимого усиления защитных механизмов может увеличить риски для общественной безопасности и экономики.