Илону показалось мало свободы слова — теперь у него ИИ для раздеваний

Платформа X* вновь оказалась в центре этического скандала — на этот раз из-за поведения чат-бота Grok, созданного компанией Илона Маска. Пользователи социальной сети начали массово использовать ИИ, чтобы «раздевать» женщин на публике. Достаточно оставить комментарий с изображением и фразой «remove her clothes» под чьей-то фотографией, и Grok создаёт изменённое изображение, на котором женщина изображена в нижнем белье или купальнике. В ряде случаев бот вместо изображения предоставляет ссылку на отдельный чат, где производится генерация.

Такая доступность функции и возможность запускать её прямо в комментариях под публичными постами делает ситуацию особенно токсичной. Речь идёт не о специализированных сайтах с платным доступом к дипфейкам, а о повседневной социальной сети, где изображение мгновенно становится ответом под оригинальным постом жертвы. Хотя Grok и не создаёт полностью обнажённые изображения, как это делают некоторые другие «нюд-боты», последствия от таких «полураздеваний» ничуть не менее травматичны.

Первые жалобы на новую волну злоупотреблений появились из Кении. Как выяснилось, именно там функция «раздевания» через Grok обрела особую популярность в начале мая. Местное СМИ сообщило о большом количестве пользователей, жалующихся на такие действия. В поиске по платформе X можно найти десятки аналогичных попыток, направленных на женщин, выложивших свои фотографии.

Специалисты по правам человека опубликовали скриншот с примером работы Grok и обратились напрямую к ИИ в X с вопросом: применяются ли системные меры безопасности вроде фильтрации, отказов на уровне декодирования или обучения с подкреплением, чтобы предотвратить генерацию неэтичного контента. В ответ Grok публично признал ошибку и заявил, что инцидент стал следствием недостаточной защиты от вредных запросов. В ответе подчеркивается, что команда пересматривает политику безопасности, чтобы повысить прозрачность и защиту приватности.

Тем не менее, несмотря на извинения, бот продолжал выполнять подобные запросы. Попытки попросить Grok «сделать человека полностью обнажённым» действительно встречают отказ, но промежуточные этапы — изображение женщины в белье — пока что остаются доступными. ИИ даже сопровождает некоторые отклонённые запросы пояснениями о недопустимости создания изображений с полным нарушением приватности, хотя тут же добавляет, что изображение в нижнем белье было уже сгенерировано.

Такой дисбаланс в реакциях системы подчёркивает несовершенство существующих фильтров и отсутствие реальных ограничений на уровне пользовательского интерфейса. При этом администрация X пока никак не прокомментировала ситуацию.

Многие пользователи уже открыто выражают возмущение. По их мнению, использование ИИ для манипуляции над изображениями женщин без согласия — это не технологическое развлечение, а форма цифрового насилия. Некоторые сравнивают происходящее с массовым нарушением границ, прикрытым интерфейсом модного чат-бота.

* Социальная сеть запрещена на территории Российской Федерации.