Ты верил этим постам, а их написал ИИ: политические боты захватили соцсети

Неизвестные злоумышленники использовали популярную нейросеть Claude в рамках масштабной кампании по скрытому влиянию в социальных сетях. По данным специалистов из Anthropic, с помощью искусственного интеллекта велась координация сети из сотни политически окрашенных персонажей, представленных как реальные пользователи на платформах Facebook* и X**. Эти аккаунты взаимодействовали с десятками тысяч настоящих пользователей, поддерживая определённые политические и экономические нарративы.

В отличие от привычных атак с резким всплеском активности, в этой операции делался упор на длительное присутствие и постепенное влияние. Аккаунты продвигали умеренные позиции, связанные с интересами разных стран — от Европы и Ирана до ОАЭ и Кении. В частности, в постах восхвалялись преимущества ведения бизнеса в ОАЭ, критиковались европейские регуляции, затрагивались темы энергетической безопасности и национальной идентичности.

В ряде публикаций высказывалась поддержка конкретных албанских политиков и осуждение их оппонентов в одной из европейских стран. В кенийском сегменте соцсетей внимание сосредотачивалось на инициативы по развитию и продвижение отдельных политических фигур.

Специалисты отмечают, что нейросеть использовалась не только для генерации контента, но и для определения момента, когда автоматизированный аккаунт должен поставить лайк, прокомментировать или сделать репост. Claude выступал в роли координатора, принимающего решения на основе заданных политических установок. Все персонажи взаимодействовали в строгой логике, прописанной в формате JSON — с сохранением истории действий, ключевых тем и персональных особенностей. Это позволяло имитировать поведение реальных людей и действовать синхронно на разных платформах.

Отдельное внимание организаторы уделяли имиджу своих аккаунтов. Если появлялись подозрения в их неестественности, нейросеть направляла их отвечать с сарказмом и юмором, чтобы сгладить возможное разоблачение. Подобные меры, по словам специалистов, говорят о высоком уровне подготовки и долгосрочном планировании вредоносной кампании.

Anthropic предполагает, что операция является частью коммерческой схемы, в которой нейросеть предлагается в аренду для клиентов из разных стран. Уже выявлено как минимум четыре независимые кампании, построенные по аналогичной архитектуре.

В том же отчёте компания рассказала о других попытках злоупотребления возможностями Claude. Так, один из злоумышленников использовал её для сбора данных об утечках паролей камер видеонаблюдения и подбора комбинаций для взлома интернет-ресурсов. В другой ситуации Claude обрабатывал данные из Telegram-каналов, посвящённых украденной информации, создавал скрипты для парсинга сайтов и оптимизировал инструменты поиска у самих преступников.

Также были зафиксированы случаи, когда Claude применяли для улучшения мошеннических объявлений о приёме на работу, нацеленных на жителей Восточной Европы. Ещё один пользователь, обладая базовыми знаниями, смог с помощью нейросети создать вредоносное ПО с возможностями обхода защиты и поиска жертв в тёмной сети.

В Anthropic подчёркивают, что всё больше подобных угроз будет появляться по мере доступности нейросетей. Использование ИИ стирает границу между новичками и опытными киберпреступниками, резко ускоряя их «профессиональный рост» и давая им в руки более опасные инструменты.

Несмотря на регулярные усилия по усилению защиты и внедрению систем контроля, злоумышленники продолжают находить обходные пути. Мошенники используют даже небольшие уязвимости в архитектуре моделей, адаптируя свои схемы под новые алгоритмы. Это создаёт постоянную гонку между разработчиками и теми, кто стремится использовать нейросети во вред.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.
** Социальная сеть запрещена на территории Российской Федерации.