Мы вам всё прислали, разбирайтесь сами. Почему отчёты от Цукерберга только мешают ловить педофилов

Американские правоохранители пожаловались, что автоматическая модерация Meta* всё чаще заваливает службы сообщениями о возможных случаях сексуализированного насилия над детьми, но значительная часть таких сигналов плохо подходит для работы и тормозит расследования.

Сотрудники Internet Crimes Against Children (ICAC) в Нью-Мексико рассказали в суде штата против Meta, что из Instagram*, Facebook* и WhatsApp регулярно приходят отчёты, где нет ключевых данных. Иногда сообщения описывают ситуацию без признаков преступления, а иногда указывают на возможное правонарушение, но изображения, видео или фрагменты переписки отсутствуют или закрыты.

Агент ICAC Бенджамин Цвайбель связал рост подобных уведомлений с использованием алгоритмов. В подразделении Цвайбеля число «киберподсказок» за 2024–2025 годы, по оценке офицеров, выросло примерно вдвое, при этом каждый сигнал всё равно приходится проверять.

Meta отвергает претензии и подчёркивает, что сотрудничает с властями. Компания говорит, что передаёт данные по экстренным запросам и отправляет сведения о подозрительных материалах в Национальный центр пропавших и эксплуатируемых детей США (NCMEC), который распределяет обращения по ведомствам. Генпрокурор Нью-Мексико Рауль Торрес на слушаниях также признавал, что соцплатформы, включая Meta, сообщают изображения в NCMEC, хотя иск штата строится на обвинениях в приоритете прибыли над безопасностью детей.

Материалы дела затронули и внутренние обсуждения Meta в 2019 году, когда компания готовилась расширять сквозное шифрование в Facebook Messenger. Тогда руководство спорило о том, как шифрование повлияет на выявление преступлений и помощь следствию. Сквозное шифрование в Messenger в итоге развернули в 2023 году, а представитель Meta Энди Стоун позднее объяснял, что именно прежние опасения подтолкнули компанию разработать защитные механизмы, рассчитанные на работу и в зашифрованных чатах.

Отдельно офицеры ICAC связывают «лавину» сообщений с законом REPORT Act, который вступил в силу в ноябре 2024 года и расширил требования к уведомлениям в NCMEC. По их версии, Meta могла начать сообщать «с запасом», чтобы не нарушить новые правила, из-за чего в общий поток попадают эпизоды, которые сложно трактовать как преступление.

Дополнительную задержку создают и юридические нюансы. В некоторых случаях уведомления, которые сформировали алгоритмы и не подтвердил сотрудник компании, требуют отдельного ордера, чтобы офицер мог открыть копии материалов, и такие процедуры отнимают время у уже перегруженных подразделений.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.