Вэнс укусил Трампа и заразил его бешенством. ИИ-поисковики поверили в фейк, который реддиторы запустили ради эксперимента

Реддиторы показали, как легко обмануть AI-поиск, если подбросить алгоритмам достаточно уверенную ложь. Участники сабреддита r/poisonai запустили абсурдную историю о том, что вице-президент США Джей Ди Вэнс умер от бешенства, а затем якобы заразил Дональда Трампа после укуса. Вымысел выглядел как плохая интернет-шутка, но некоторые поисковые системы с ИИ начали пересказывать историю как реальный факт.

Участники кампании не ограничились одним постом. На Reddit появились фальшивые траурные сообщения, поддельные скриншоты и комментарии, где пользователи делали вид, будто обсуждают настоящую трагедию. Позже похожая история всплыла на сайте, который маскировался под местное новостное издание. Такой сайт дал AI-поисковикам еще один «источник», откуда алгоритмы могли взять выдумку.

Сбой заметили у AI-функций DuckDuckGo и Brave. DuckDuckGo показывал пользователям ответ, где говорилось, что Дональд Трамп умер от бешенства в июне 2026 года, а Вэнс скончался незадолго до него. Brave также повторял фейк о смерти Вэнса. Представитель Brave заявил, что поисковые системы, с ИИ или без ИИ, не могут считаться «оракулами истины», а пользователям нужно проверять источники самостоятельно. DuckDuckGo позже признал проблему и сообщил, что ошибочный ответ уже исправили.

История выглядит нелепо, но проблема серьезнее самой шутки. AI-поиск часто собирает ответы из открытых страниц, форумов и пользовательских комментариев. Когда несколько страниц повторяют одинаковую ложь, система может принять совпадение за подтверждение. Для человека десятки одинаковых комментариев в странном сабреддите выглядят как координированный розыгрыш, а для алгоритма могут стать набором согласованных сигналов.

Исследователи Cornell Tech недавно описали похожую уязвимость в работе систем для глубокого поиска. По данным ученых, даже короткая фраза в пользовательском контенте может повлиять на итоговый ответ AI-агента, если система часто находит и цитирует одну и ту же страницу. В экспериментах исследователи не травили реальный интернет, а проверяли сценарий в изолированной среде, чтобы не загрязнять публичные источники.

Случай с r/poisonai показывает, что борьба за точность AI-поиска упирается не только в качество модели. Поисковым системам приходится быстро отвечать на свежие вопросы, но свежая информация чаще всего приходит из среды, где любой пользователь может написать убедительную ложь. Чем сильнее AI-сервисы полагаются на Reddit, форумы и псевдоновостные сайты, тем проще организованной группе превратить абсурдную выдумку в «факт» внутри поискового ответа.