Искусственный интеллект и генеративные инструменты меняют американскую политику

В преддверии выборов в президенты США, которые пройдут в 2024 году, в социальных сетях появляется всё больше видео с поддельными фотографиями и якобы записанными аудиофайлами известных политиков, созданными с помощью искусственного интеллекта.

Такие видео называются дипфейками (от англ. deepfake — глубокая подделка) и могут быть использованы для манипуляции общественным мнением и дискредитации соперников.

Так, в одном из дипфейков , гуляющих по зарубежному Интернету, Хиллари Клинтон неожиданно поддерживает республиканца Рона Де Сантиса. А в другом подобном ролике — президент Джо Байден оскорбляет трансгендера.

Создание дипфейков стало куда проще и дешевле благодаря новым инструментам «генеративного ИИ», таким как Midjourney, которые позволяют синтезировать реалистичные изображения и голоса на основе большого количества онлайн-материалов.

По данным компании DeepMedia, которая разрабатывает средства для обнаружения синтетических медиа, в 2023 году количество дипфейков в интернете выросло в три раза по сравнению с прошлым годом. По примерным прогнозам специалистов, к концу года в Интернете будет опубликовано суммарно около 500 тысяч видео- и аудиодипфейков по всему миру.

«Будет очень сложно для избирателей отличить реальное от поддельного. И можно представить, как сторонники Трампа или Байдена могут использовать эту технологию, чтобы заставить противника предстать в худшем свете», — заявил Даррел Уэст, старший научный сотрудник Центра технологических инноваций при Институте Брукингса.

Основные социальные платформы, такие как Facebook*, Twitter** и YouTube, пытаются оперативно удалять дипфейки, но их эффективность в борьбе с такого рода контентом пока что остаётся на низком уровне.

В то же время некоторые политические игроки стремятся целенаправленно использовать мощь генеративного ИИ для усиления своих кампаний. Пока единственным известным примером политической рекламы, созданной полностью на основе ИИ, был ролик Республиканского национального комитета , опубликованный в конце апреля. В 30-секундном видео комитет показал серию динамически сменяемых сгенерированных изображений, демонстрирующих катастрофический сценарий развития США в случае переизбрания Байдена: Китай вторгается на Тайвань, а Сан-Франциско охвачен преступностью.

Потенциал генеративного ИИ для создания фейкового контента, манипулирующего общественным сознанием, просто огромен. А при грамотной реализации эти технологии могут запросто перевернуть результаты выборов в сторону того, кто больше заплатит за создание и распространение подобных подделок.

* Компания Meta и её продукты (Instagram и Facebook) признаны экстремистскими, их деятельность запрещена на территории РФ.
** Социальная сеть запрещена на территории Российской Федерации.