Нелегальные deepfake-сайты и их связь с Google и Apple: расследование WIRED

Крупные технологические компании, такие как Google, Apple и Discord, способствуют быстрому доступу пользователей к вредоносным сайтам, которые с помощью искусственного интеллекта «раздевают» людей на фотографиях, создавая изображения с обнаженными телами без их согласия. На протяжении нескольких месяцев более десятка таких сайтов использовали системы авторизации от этих компаний, что позволяло пользователям легко регистрироваться на подобных ресурсах.

Анализ, проведенный изданием WIRED, выявил 16 крупнейших сайтов, занимающихся созданием поддельных «обнаженных» изображений, которые использовали инфраструктуру авторизации через Google, Apple, Discord, Twitter, Patreon и Line. Эта интеграция создавала иллюзию легитимности таких сайтов, что позволяло пользователям быстро создавать учетные записи и приобретать кредиты для генерации изображений.

Число сайтов, создающих интимные изображения без согласия, значительно выросло с появлением генеративного ИИ. Особенно тревожно, что подобные технологии стали активно использоваться подростками, создающими изображения своих сверстников. Несмотря на очевидность проблемы, крупные технологические компании не торопятся предпринимать меры для борьбы с такими сайтами, которые легко находятся через поисковые системы, активно продвигаются через рекламу в соцсетях и даже попадают в магазины приложений.

Системы авторизации, использующиеся на этих сайтах, позволяют пользователям регистрироваться через свои существующие аккаунты. Google присутствовал на 16 таких сайтах, Discord — на 13, Apple — на шести. После обращения WIRED представители некоторых компаний сообщили о том, что приняли меры по удалению учетных записей разработчиков, связанных с этими сайтами, однако другие компании не дали комментариев или отказались обсуждать конкретные сайты.

За последние годы технологии deepfake существенно упростили создание таких изображений, и сайты, занимающиеся этой деятельностью, начали функционировать как бизнес. Они часто скрывают информацию о владельцах и методах работы, предлагая свои услуги на разных языках и активно развиваясь, добавляя новые функции, такие как возможность настраивать внешность и загружать изображения с Instagram.

Некоторые сайты даже создают собственные криптовалюты для оплаты услуг. Несмотря на критику и заявления о том, что подобные технологии способствуют сексуальному насилию и эксплуатации женщин, сайты продолжают действовать, а их посещаемость только растет.

Правоохранительные органы и общественные организации продолжают бороться с такими сайтами, однако проблема по-прежнему остается актуальной. Призыв к более жесткому регулированию и ограничению доступа к таким технологиям со стороны технологических гигантов звучит все громче, но на данный момент большинство мер предпринимается только после широкого освещения проблемы в СМИ.