Один из крупнейших рекламных партнёров Meta* в Китае оказался связан с масштабной сетью объявлений, продвигавших приложения для создания интимных дипфейков. По данным расследования Tech Transparency Project (TTP), через Facebook* и Instagram* распространялись десятки тысяч рекламных объявлений, несмотря на официальную политику, запрещающую продвижение подобных сервисов.
В центре расследования оказалась компания GatherOne — один из ограниченного числа китайских реселлеров, которым компания разрешает размещать рекламу от имени местных клиентов. Поскольку платформы заблокированы в Китае, именно такие посредники обеспечивают китайским компаниям доступ к зарубежной аудитории.
Исследователи изучили данные Ad Library и обнаружили более 30,8 тысячи рекламных объявлений, опубликованных 210 страницами Facebook, которые указывали GatherOne или связанную с ней компанию Hongkong Gather Wisdom Network Technology в качестве рекламодателя и плательщика. Значительная часть объявлений рекламировала сервисы, способные «раздевать» людей на фотографиях, менять лица в откровенных изображениях и создавать порнографические видеоролики с помощью искусственного интеллекта.
Среди изученных страниц 43 продвигали приложения, которые, по данным авторов расследования, действительно позволяют создавать изображения обнажённых женщин на основе обычных фотографий. Ещё 160 страниц размещали объявления с откровенно сексуальным содержанием, включая сцены раздевания, имитацию половых актов и рекламу сервисов для взрослых. При этом 85% страниц позднее получили блокировки отдельных объявлений за нарушение правил, однако многие продолжили размещать новую рекламу.
Авторы отмечают, что подобные объявления нарушают сразу несколько внутренних политик. Компания запрещает рекламу сервисов, создающих интимные изображения без согласия человека, а также объявления с откровенно сексуальным контентом и рекламу приложений для генерации фальшивых романтических или эротических изображений.
Во время проверки специалисты загрузили несколько рекламируемых приложений. Одно из них — BAfter — предлагало функцию One-Click Undress для автоматического удаления одежды с фотографии. После запуска пользователям также показывали созданные другими людьми порнографические изображения. В отзывах Google Play исследователи обнаружили несколько сообщений о возможном наличии материалов сексуального характера с участием несовершеннолетних.
Ещё одно приложение, Florie, предлагало шаблоны для замены лиц на откровенных изображениях, а сервис Sintry совмещал генерацию интимных изображений с чат-ботами и функциями виртуальной подруги. Некоторые рекламные объявления этих сервисов содержали маркировку «18+», хотя сами приложения в отдельных случаях были доступны пользователям значительно младшего возраста.
Исследование также описывает рекламу приложения Persona AI, позволяющего создавать виртуальных собеседников и генерировать изображения на основе фотографии любого человека. На сайте GatherOne подобные AI Girlfriend-сервисы ранее приводились в качестве успешного примера продвижения на западных рынках.
Отдельное внимание авторы уделили приложению Honey AI. В рекламе пользователям предлагали загрузить фотографию знакомого человека, чтобы создать его виртуальную копию. Среди объявлений исследователи обнаружили материалы, которые, по их оценке, содержали признаки сексуализированных изображений персонажей, похожих на несовершеннолетних. Несмотря на то что часть рекламы Meta впоследствии удалила, связанная с ней страница после этого успела разместить ещё сотни объявлений.
Представители заявляют, что придерживается политики нулевой терпимости к подобным приложениям и может удалять рекламу, применять финансовые санкции и блокировать рекламные аккаунты нарушителей. Однако расследование ставит под сомнение последовательность такого подхода, поскольку сеть объявлений продолжала работать даже после удаления отдельных публикаций.
После выхода расследования GatherOne сообщила TTP, что приостановила регистрацию новых рекламных аккаунтов, связанных с AI-сервисами для «раздевания» людей, заменой лиц и виртуальными подругами, а также начала пересматривать внутренние процедуры проверки рекламодателей.
* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.