Открытая рана цифровой эпохи: бесправие жертв ИИ-порнографии

В киберпространстве разгорается новый скандал, связанный с использованием инструментов генеративного ИИ для создания порнографических картинок без согласия изображённых на них лиц.

Один из пользователей Telegram, рекламирующий свои услуги в социальной сети X *, предлагает создать порнографические изображения любого человека всего за 10 долларов, используя для этого всего несколько фотографий. Всё взаимодействие между клиентами и исполнителем услуги ведётся в специально созданном Telegram-канале.

В одном из чатов этого канала пользователи размещают реальные фотографии людей, похоже, взятые из их социальных сетей, и там же находятся уже созданные с помощью ИИ порнографические изображения. Всё это делается как для демонстрации возможностей сервиса потенциальным клиентам, так и, возможно, для уничижения чести и достоинства женщин-жертв, которые попали под горячую руку киберзлодеев.

Вышеописанный Telegram-канал на момент его изучения исследователями безопасности имел 35 комнат, в каждой из которых собраны сгенерированные порнографические материалы известных женщин, в том числе ютуберов, Twitch-стримеров и Instagram-инфлюенсеров. Среди целей также оказались несовершеннолетние, однако в этих случаях распространялись не полностью обнажённые изображения, а лишь фотографии в купальниках.

Как было отмечено выше, данный Telegram-канал открыто рекламирует свои услуги в социальной сети X (бывший Twitter*), что поднимает вопросы о способности и готовности платформы Илона Маска модерировать вредоносный контент. Несколько месяцев назад вирусные порнографические изображения Тейлор Свифт, созданные с помощью ИИ, также с бешеной скоростью распространились по популярной социальной сети, собрав миллионы просмотров до того, как X удалил их и заблокировал аккаунты всех причастных.

Исследователи также обнаружили аналогичное Discord-сообщество, предположительно созданное этим же автором. Поэтому с некой долей вероятности можно предположить, что даже если канал в «синем мессенджере» будет заблокирован, вся его вредоносная деятельность просто «переедет» в Discord.

Telegram и Discord регулярно заявляют о приверженности жёсткой модерации вредоносного контента на своих платформах, однако проблема непристойных изображений, созданных с помощью ИИ, остаётся актуальной и вызывает озабоченность людей по всему миру.

Технологии генеративного ИИ, такие как Stable Diffusion, позволяют легко создавать реалистичные изображения, используя лишь текстовые подсказки и фотографию-референс. Это открывает широкие возможности для злоупотребления, включая создание порнографического контента без согласия изображённых лиц.

Использование мобильных приложений со схожим принципом работы, таких как «Undress», «nudify» и «ClothOff», ранее уже привело к громкому скандалу, вызванному активной школьной травлей пострадавших от порноподделок девушек в испанском городке Альмендралехо.

* Социальная сеть запрещена на территории Российской Федерации.