«Раздеть» за пару кликов. Apple и Google помогают нейросетям создавать порно без согласия

Искать приложения в смартфоне оказалось не так безобидно, как кажется. Стоит вбить пару слов – и алгоритмы сами подскажут, как «раздеть» человека на фото с помощью нейросетей. Причём такие подсказки дают крупнейшие магазины приложений от Apple и Google.

Новая проверка Tech Transparency Project показала, что несмотря на формальные запреты, оба магазина не только пропускают подобные сервисы, но и активно ведут к ним пользователей. Достаточно ввести запросы вроде «nudify», «undress» или «deepnude», чтобы получить десятки приложений, способных «снимать» одежду с людей на снимках, создавать порнографические ролики или превращать изображения в откровенные чат-боты.

Причём речь не о единичных случаях. Около 40% приложений, которые появляются в результатах поиска, умеют генерировать обнажённые или полуобнажённые изображения женщин. Некоторые сервисы делают это буквально в пару нажатий – достаточно выделить область одежды на фото и ввести команду вроде «убрать одежду».

Алгоритмы идут дальше. В процессе набора запроса магазины сами предлагают новые варианты поиска, которые ведут к ещё большему числу подобных программ. Параллельно пользователям показывают рекламу таких приложений – иногда прямо в верхней части выдачи.

Масштаб оказался внушительным. Приложения, попавшие в выборку, скачали 483 млн раз, а суммарный доход превысил 122 млн долларов. При этом 31 сервис имел возрастную маркировку, допускающую использование несовершеннолетними. На фоне участившихся скандалов с дипфейками в школах такая ситуация выглядит особенно тревожно.

Некоторые приложения не просто «раздевают» людей, но и позволяют подменять лица. Пользователь может взять фотографию знакомого человека и «перенести» его лицо на тело обнажённой модели. Ограничений при этом зачастую нет, даже если речь идёт о явно откровенных изображениях.

Отдельная категория – чат-боты с искусственным интеллектом. В ряде приложений можно создать «виртуального собеседника» на основе фотографии реального человека, задать ему характер и затем получать от него откровенные изображения. В некоторых случаях среди доступных образов встречаются персонажи, похожие на подростков.

Когда информация стала публичной, часть разработчиков начала вносить правки: где-то убрали генерацию полной наготы, заменив её на изображения в купальниках, где-то усилили фильтры. Но и такие версии всё равно противоречат правилам магазинов, которые запрещают унижение и сексуализацию людей.

Представители Google заявили, что удалили часть приложений и продолжают проверку. Apple от комментариев отказалась. После того как журналисты обратились к компаниям, те убрали несколько десятков сервисов, но проблема полностью не исчезла.

История показывает, что магазины приложений уже не просто площадки, где размещают программы. Поисковые алгоритмы, рекламные блоки и подсказки напрямую влияют на то, какие сервисы находят пользователи. В случае с «раздевающими» нейросетями такая роль выглядит особенно спорно – учитывая, что такие сервисы создают интимные изображения без согласия людей.