«Антиповесточный» ИИ Маска предсказуемо научился рисовать 18+ контент. Теперь компания не знает, что с этим делать

Пока в X* спорят о том, что Grok «раздевает» людей на картинках, выяснилось, что куда более тревожная часть истории живет отдельно от соцсети. По данным WIRED, на официальном сайте и в приложении Grok есть генерация изображений и видео через модель Imagine, и там пользователи создают контент заметно более откровенный и местами откровенно жестокий, чем то, что обычно всплывает прямо в ленте X.

Главная проблема в том, что эти материалы на Grok.com по умолчанию не публикуются публично, как это происходит в X, поэтому скандал долго не был таким заметным. Но если кто-то делится прямой ссылкой Imagine, она может оказаться доступной другим. WIRED описывает массив примерно из 1200 таких ссылок, часть из которых индексировалась поиском или распространялась на форумах, где обсуждают дипфейк-порнографию. В этой подборке журналисты и исследователи нашли большое количество порнографических изображений и видео, включая сцены насилия сексуального характера, а также материалы, где персонажи выглядят несовершеннолетними.

Контент анализировала в том числе некоммерческая организация AI Forensics из Парижа. Ее ведущий исследователь Поль Бушо утверждает, что около 800 из найденных URL реально содержат изображения или видео, и подавляющее большинство из них связано с порнографией, включая откровенный хентай и фотореалистичные ролики. По его оценке, доля материалов, которые могут быть связаны с сексуализированными образами несовершеннолетних, составляет чуть меньше 10 процентов. Исследователь говорит, что сообщил регуляторам в Европе о примерно 70 ссылках, которые могут содержать подобный контент.

Илон Маск уже публично заявлял, что за создание незаконного контента будут те же последствия, что и за загрузку запрещенных материалов, а политика xAI прямо запрещает сексуализацию или эксплуатацию детей и любые незаконные, вредоносные или абьюзивные действия. В тексте также упоминается сентябрьский материал Business Insider: издание писало, что общалось с десятками действующих и бывших сотрудников xAI, и часть из них сталкивалась с сексуально откровенными материалами и запросами, похожими на попытки создать CSAM, а внутри компании якобы есть механизмы, которые должны такое распознавать и ограничивать.

Отдельный вопрос, который поднимает WIRED, это доступность. В X «взрослые» публикации могут требовать логин и иметь возрастные ограничения, тогда как на сайте Grok, по наблюдениям редакции, явного возрастного шлюза может не быть. Это важно на фоне того, что в США в ряде штатов в последние годы принимались законы об обязательной проверке возраста для сайтов, где значимая доля контента является сексуально откровенной.

Параллельно с этим пользователи на тематических форумах, где обсуждают генерацию дипфейков, уже несколько месяцев обмениваются подсказками, как обходить модерацию Grok Imagine и какие формулировки чаще «проходят». На Reddit тоже заметна реакция: часть пользователей жалуется на усиление фильтров после публичного скандала и обсуждает отмену подписки, обвиняя сервис в том, что сначала он создал условия для злоупотреблений, а потом начал тушить пожар точечными запретами.

Если выводить эту историю за пределы одного сервиса, она про неприятную закономерность: как только генеративная модель получает возможность делать реалистичные фото и видео, а распространение уходит в «приватные ссылки», нагрузка на модерацию и правоприменение резко усложняется. И дальше все упирается в базовые вещи: возрастные барьеры, жесткие ограничения на сексуализированный контент, прозрачные правила и быстрые реакции на жалобы. Без этого любые заявления про «нулевую терпимость» остаются просто словами.

* Социальная сеть запрещена на территории Российской Федерации.