Порноместь и бессилие модерации: X провалила очередное испытание

Новое исследование выявило неожиданные недостатки в системе борьбы с несанкционированным распространением интимных изображений на платформе X (бывший Twitter). Группа ученых из Мичиганского университета провела эксперимент, результаты которого заставляют задуматься об эффективности существующих механизмов защиты пользователей, в том числе в случаях с “порноместью”.

Порноместь — это преднамеренное распространение интимных фото или видео человека без его согласия, обычно с целью унизить, отомстить или навредить репутации. Чаще всего это происходит после разрыва отношений, когда одна из сторон, движимая местью, публикует личные материалы в сети или делится ими с другими людьми. Подобные действия являются нарушением права на частную жизнь и могут нести серьёзные психологические последствия для жертвы, а также караются законом в ряде стран. Однако, как мы уже поняли, все не так просто.

Для проведения эксперимента специалисты создали на X две группы аккаунтов. С их помощью они разместили и затем пожаловались на 50 изображений обнаженных женщин, сгенерированных искусственным интеллектом. Половину контента пометили как нарушающий политику X в отношении наготы без согласия, а для остальных использовали механизм удаления по закону об авторском праве (DMCA).

Итоги эксперимента оказались поразительными. Все 25 изображений, на которые поступили жалобы по DMCA, были удалены в течение суток, а разместившие их аккаунты - временно заблокированы. В то же время жалобы через внутренний механизм X не привели ни к каким действиям - ни одно изображение не было удалено даже спустя три недели.

Исследователи отмечают: далеко не все пострадавшие от порномести могут воспользоваться механизмом DMCA. Этот способ доступен только в ситуациях, когда жертва является автором контента и может это доказать. Однако, что очевидно, во многих случаях компрометирующие ролики или фото могут быть созданы другим лицом или получены без ведома жертвы. Тем более, что сейчас в таких целях очень часто используются дипфейки.

Ситуация усугубляется тем, что даже для имеющих такую возможность процесс подачи жалобы по DMCA слишком сложный и затратный.

Действительно, распространение интимных изображений без согласия наносит наибольший вред в первые двое суток после публикации. При этом масштаб проблемы впечатляет: согласно приведенным данным, каждый восьмой взрослый житель США либо становится жертвой этой практики, либо сталкивается с угрозами.

Ситуация становится еще более тревожной с развитием технологий генерации изображений на основе искусственного интеллекта. Теперь любой человек, опубликовавший свою фотографию в интернете, рискует стать жертвой клеветы. На это в прошлом году обращало внимание ФБР .

Ученые приходят к выводу о необходимости серьезных изменений в подходе к решению проблемы. Вместо того чтобы полагаться на добрую волю платформ в борьбе с распространением интимных изображений без согласия, они предлагают создать специальный федеральный закон. Он должен работать так же эффективно, как DMCA, обязывая платформы оперативно удалять любой вредоносный контент и предусматривая наказание для нарушителей.

Сейчас у соцсетей нет юридических стимулов для удаления компрометирующих материалов. Создание специального закона не только защитило бы жертв, но и решило бы проблему, на которую указывают некоторые юристы: использование законов об авторском праве для защиты сексуальной неприкосновенности может "исказить систему интеллектуальной собственности".

Важно подчеркнуть, что команда исследователей тщательно подошла к этическим аспектам своего эксперимента. Они выбрали X в качестве платформы для исследования, полагая, что там нет волонтеров-модераторов, а влияние на штатных сотрудников будет минимальным. Кроме того, были приняты меры для того, чтобы сгенерированные ИИ изображения не имели сходства с реальными людьми.

Каждое изображение проходило проверку с помощью программы распознавания лиц и нескольких сервисов обратного поиска изображений. В исследование включались только те изображения, которые были подтверждены всеми программами. Материалы публиковались с популярными хештегами, но их охват также был ограничен.

Согласно отчету о прозрачности X, за первую половину 2024 года платформа удалила более 150 000 постов, нарушающих политику в отношении распространения интимных изображений без согласия. Было заблокировано более 50 000 аккаунтов, а общее число жалоб на такой контент составило 38 736. Большая часть блокировок и удалений контента производилась человеком-модератором, и лишь небольшая доля – автоматически.

Специалисты допускают, что сокращение команды по безопасности X после покупки платформы Илоном Маском могло сыграть свою роль. Однако в прошлом году X начала восстанавливать команду, а в начале этого года объявила о создании нового "центра передового опыта" по доверию и безопасности. Случилось это на фоне скандала с порнографическими изображениями Тейлор Свифт, сгенерированными ИИ.