Смена поз, откровенные наряды и обход фильтров. Нейросеть Илона Маска продолжает штамповать сексуализированные дипфейки

Обещания xAI навести порядок вокруг Grok пока расходятся с тем, что происходит на платформе X. Несмотря на январский скандал, проверки регуляторов и публичные заверения компании, пользователи по-прежнему находят способы заставить чат-бота создавать сексуализированные дипфейки с изображениями реальных женщин без их согласия.

NBC News сообщает, что за последний месяц в X обнаружили десятки таких изображений и видео, созданных с помощью Grok. Речь идёт не о полностью обнажённых кадрах, как во время зимней волны публикаций, но о роликах и картинках, где женщин переодевают в откровенные костюмы, меняют позы или усиливают акцент на интимных частях тела. Среди жертв часто оказываются певицы и актрисы.

После январского резонанса xAI заявляла, что ввела технические ограничения и запретила использовать Grok для «раздевания» реальных людей. Однако журналисты выяснили, что пользователи уже приспособились обходить часть фильтров.

Один из популярных приёмов сводится к загрузке двух изображений сразу, например фотографии знаменитости и схематичного рисунка с нужной позой. В других случаях Grok просят перенести одежду с одного снимка на другой или превратить обычную фотографию в видео с сексуализированным движением.

По данным NBC News, найти примеры оказалось несложно даже через обычный поиск в X. После запроса редакции часть публикаций исчезла, а компания заявила, что запрещает несогласованные откровенные дипфейки и следит за попытками обойти защиту. Тем не менее, подобного материала от таких заявлений меньше не становится.

Специалисты и правозащитные организации считают, что проблема никуда не делась, просто стала менее заметной. Женевьева О, которая изучает дипфейки, полагает, что Grok остаётся крупнейшим в мире инструментом для создания синтетических изображений с несогласованной сексуализацией. В Center for Countering Digital Hate также заявили, что продолжают находить новые примеры злоупотреблений.

Ситуация уже вышла далеко за рамки репутационного кризиса. Восемь регуляторов и правоохранительных структур в США, Канаде, Австралии и Европе подтвердили NBC News, что продолжают проверки. В Нидерландах суд в прошлом месяце обязал прекратить генерацию изображений, имитирующих «раздевание» взрослых и детей. Параллельно xAI сталкивается с несколькими исками, включая коллективные претензии в Калифорнии и отдельное дело, поданное городом Балтимор.

История бьёт и по бизнесу Илона Маска. В феврале xAI вошла в состав SpaceX, а значит возможные штрафы и судебные риски могут затронуть уже более крупную часть империи миллиардера. На таком фоне январские обещания быстро закрыть лазейки для Grok выглядят всё менее убедительно.