Илон Маск снова рискует. За «шутки» чат-бота Grok соцсеть X могут просто заблокировать

Почти 6 000 запросов в час на «раздевание» женщин с помощью чат-бота. Именно такой поток фиксировали в начале января, когда сервис Grok на платформе X* начал генерировать изображения женщин в купальниках и откровенных позах без их согласия. Скандал оказался настолько громким, что власти Великобритании пригрозили площадке запретом.

Теперь премьер-министр Кир Стармер объявил о жёстких мерах. По его словам, распространение интимных фото без согласия, включая поддельные изображения, созданные нейросетями, стало «национальной чрезвычайной ситуацией». Технологические компании обяжут удалять такие материалы в течение 48 часов после жалобы. Если они этого не сделают, им грозят многомиллионные штрафы или полная блокировка в стране.

Поправки внесут в законопроект о борьбе с преступностью и правопорядке. Они затронут не только социальные сети и сайты с порнографией, но и чат-ботов на основе искусственного интеллекта. Контроль за исполнением передадут британскому медиарегулятору Ofcom. Власти рассчитывают, что новые полномочия вступят в силу уже к лету.

Платформы, которые проигнорируют требования, могут оштрафовать на сумму до 10% от их мирового оборота. В крайнем случае сервис просто заблокируют на территории Великобритании. Пострадавшие смогут пожаловаться напрямую площадке или в Ofcom, после чего уведомление разошлют сразу нескольким сервисам. Идея в том, чтобы человеку не приходилось снова и снова отправлять жалобы, когда одно и то же фото появляется на разных сайтах.

Регулятору также поручат изучить возможность цифровой маркировки таких изображений. Речь идёт о технологии, при которой файлу присваивают уникальный цифровой отпечаток. Если кто-то загрузит его повторно, система распознает совпадение и автоматически заблокирует публикацию. Подобный механизм уже применяют крупные компании, в том числе Google и Meta, для борьбы с материалами о сексуализированном насилии над детьми (Child Sexual Abuse Material, CSAM).

Однако у технологии есть слабые места. Достаточно слегка изменить картинку или добавить поверх неё новые элементы, и система может не распознать файл. С развитием нейросетей проблема усложняется: поддельные интимные изображения легко изменить и перезалить в сеть в новой версии, обходя автоматические фильтры.

Отдельный вопрос касается зашифрованных мессенджеров, таких как WhatsApp и Signal. Пока неясно, как именно требования будут работать в сервисах, где переписка защищена сквозным шифрованием.

Премьер также заявил, что намерен добиваться изменений внутри самого правительства и политики, где, по его мнению, укоренилась культура, снисходительно относящаяся к женоненавистничеству. Он подчеркнул, что недостаточно просто назначать женщин на руководящие должности, если их мнение не влияет на решения.

Создание и распространение интимных изображений без согласия в Великобритании планируют отнести к числу приоритетных правонарушений в рамках закона о безопасности в интернете. По уровню серьёзности их приравняют к материалам о сексуальном насилии над детьми и пропаганде терроризма. Власти рассчитывают, что жёсткий срок в 48 часов заставит площадки реагировать быстрее и сократит поток цифрового шантажа, который в последние годы уже привёл к трагедиям среди подростков и молодых людей.

* Социальная сеть запрещена на территории Российской Федерации.