Старые разводы на новый лад. ИИ стал лучшим другом телефонных мошенников

Мошенники, пропагандисты и силовики всё чаще используют языковые модели не для развлечений, а для выкачивания денег и влияния на общественное мнение. В новом отчёте OpenAI подробно разобрала десятки таких случаев и показала, как злоумышленники встраивают искусственный интеллект в уже знакомые схемы.

Одна из самых показательных историй получила название Operation Date Bait. Сеть аккаунтов, предположительно связанная с мошенническими центрами в Камбодже, рекламировала в социальных сетях фиктивное элитное агентство знакомств «Klub Romantis». Рекламу нацеливали на молодых мужчин в Индонезии, интересующихся гольфом, яхтами и роскошной жизнью. После клика жертва попадала к чат-боту в роли «секретаря», затем общение переводили в Telegram, где подключались живые операторы. Они убеждали оплатить «миссии», «VIP-карты» и поддержку выбранной девушки, а в финале требовали крупный платёж под видом «компенсации» или «проверочного депозита». По данным отчёта, злоумышленники параллельно вели внутреннюю отчётность и даже рассчитывали для каждой жертвы предполагаемую максимальную сумму, которую можно «выжать».

Похожим образом работала схема Operation False Witness. Участники выдавали себя за юристов и сотрудников американских ведомств, включая подразделение ФБР по приёму жалоб на интернет-преступления. Они предлагали вернуть деньги, потерянные в других аферах, и требовали заранее оплатить «сервисный сбор» в размере 15% или внести депозит. Модели использовали для написания сообщений «в юридическом стиле», перевода переписки и создания поддельных документов, включая фиктивные членские билеты коллегий адвокатов.

Отдельный блок отчёта посвящён операциям влияния. В кейсе Silver Lining Playbook аккаунты, вероятно действовавшие из Китая, готовили письма американским чиновникам и аналитикам от имени вымышленной консалтинговой фирмы. Авторы просили помочь составить краткие и убедительные письма с элементами психологического давления и приглашением к «консультациям». Параллельно они интересовались расположением федеральных зданий в США и программами для подмены лиц на видео. Признаков того, что адресаты ответили на такие письма, компания не обнаружила.

В операции Trolling Stone сеть аккаунтов публиковала материалы об аресте в Аргентине Константина Руднева и массово оставляла комментарии под новостями, создавая видимость широкой поддержки. Часть публикаций размещали на страницах в Facebook*, оформленных как аргентинские СМИ, администраторы которых находились в Пакистане, Армении и Уругвае. Активность выглядела скоординированной, но охваты в большинстве случаев оставались низкими.

С операцией Fish Food связали аккаунты, работавшие в интересах сети «Rybar». Они генерировали посты на русском, английском и испанском языках для Telegram и X**, а также пачками готовили комментарии, которые затем публиковали разные аккаунты. В одном случае семь сообщений создали за один запрос, но их просмотры различались радикально: от 57 до более чем 150 тысяч. Разницу объяснили не качеством текста, а числом подписчиков у конкретного аккаунта.

Самый масштабный раздел касается так называемых «Cyber Special Operations», которые, по данным OpenAI, связаны с представителем китайских правоохранительных органов. Пользователь пытался получить помощь в планировании кампании против премьер-министра Японии, однако модель отказалась. Позже тот же человек просил отредактировать отчёты о проведённых операциях. В документах упоминались сотни сотрудников, тысячи фейковых аккаунтов и десятки тактик – от массовых публикаций и травли до подделки документов и попыток дискредитации диссидентов за рубежом. Часть описанных действий удалось сопоставить с реальной активностью в сети, но заметного общественного эффекта многие кампании не достигли.

Главный вывод отчёта звучит прагматично. Языковые модели редко становятся самостоятельным оружием. Мошенники и организаторы информационных операций используют такие инструменты как усилитель уже существующих схем. На результат сильнее влияет не сам факт применения искусственного интеллекта, а инфраструктура распространения, ресурсы и аудитория, которой адресуют сообщения.

* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.

** Социальная сеть запрещена на территории Российской Федерации.