Стриптиз от нейросети – это теперь «свобода слова»? Британские власти пытаются объяснить Маску правила приличия

Даже после громких заявлений о борьбе с откровенным ИИ-контентом платформа X* продолжает пропускать сексуализированные ролики, созданные с помощью собственного инструмента Grok. Дело в том, что обещанные ограничения легко обходятся через отдельное веб-приложение.

Журналисты The Guardian смогли загрузить фотографии реальных полностью одетых женщин и попросить Grok «переодеть» их в бикини. Вместо простой замены одежды сервис автоматически сгенерировал короткие видео в формате стриптиза, где женщины якобы раздеваются до купальников. Полученные ролики без проблем публиковались в открытой ленте X и становились доступными для просмотра практически сразу.

Это выглядит как прямой обход мер, о которых компания объявила 14 января. Тогда X заявила, что внедрила технологические ограничения, запрещающие редактирование изображений реальных людей с целью создания откровенной одежды, включая бикини. Компания подчеркнула, что политика распространяется на всех пользователей и провозгласила нулевую терпимость к эксплуатации детей, несогласованной наготе и нежелательному сексуальному контенту. Однако отдельно не уточнялось, затрагивают ли запреты веб-версию Grok Imagine.

Проверка показала, что именно через этот браузерный инструмент ограничения фактически не работают. Система продолжает выполнять запросы на «раздевание» женщин и даже расширяет их до генерации видео.

Правозащитные организации резко отреагировали на находку. Представители End Violence Against Women Coalition заявили, что столь простая лазейка говорит о недостаточном внимании платформы к проблеме унижения женщин в интернете. В Fawcett Society добавили, что индустрия технологий по-прежнему ставит рост и «хайп» выше достоинства и безопасности пользователей.

Ранее Reuters также сообщило, что журналистам удалось получить откровенные изображения через Grok уже после объявленных ограничений.

Британские власти заняли выжидательную позицию. Министр технологий Лиз Кендалл приветствовала шаги X, но подчеркнула, что Ofcom должен тщательно установить факты в рамках уже начатого расследования. Премьер Кир Стармер напомнил, что свобода слова не означает право нарушать чужое согласие и потребовал немедленного соблюдения закона.

Регулятор Ofcom подтвердил, что расследование в отношении X продолжается и специалисты работают над выяснением причин произошедшего и возможных нарушений.

Тем временем скандал неожиданно сыграл на руку самому Grok. Илон Маск опубликовал график Google Trends, на котором поисковые запросы по сервису резко выросли, и сопроводил его коротким призывом попробовать Grok.

Согласно британскому правительству, Закон о безопасности в интернете уже обязывает платформы блокировать незаконные интимные изображения без согласия. Кроме того, власти готовят отдельную уголовную норму против сервисов, создающих контент интимного характера.