180 минут на реакцию и «цифровое клеймо». Индия начинает масштабную войну против синтетического контента

Индия решила резко ускорить борьбу с дипфейками и другим незаконным синтетическим контентом, что означает для глобальных социальных сетей жёсткую проверку на прочность уже в ближайшие дни. Новые требования вступают в силу 20 февраля, а значит сервисам предстоит за считаные дни выстроить маркировку и более жёсткую модерацию материалов, созданных или изменённых с помощью ИИ, чтобы не попасть под штраф.

Речь идёт об обновлении индийских правил в сфере информационных технологий, которые обязывают цифровые платформы применять «разумные и уместные технические меры», чтобы пользователи не публиковали и не распространяли незаконные ИИ-ролики и аудиозаписи.

Если такой контент не блокируется, он должен сопровождаться механизмами для выявления происхождения, например, постоянными метаданными, позволяющими понять, как именно материал был создан или отредактирован. Для соцсетей отдельно прописаны требования к самодекларации, проверке таких отметок и заметной маркировке, чтобы синтетическое происхождение было очевидно сразу, включая голосовые пометки для ИИ-аудио.

На практике выполнить это требование непросто. Даже наиболее продвинутые подходы к атрибуции, такие как C2PA, опираются на метаданные, которые добавляются в момент создания или редактирования. Крупные компании уже внедряют этот стандарт, но он не закрывает проблему полностью.

Метки нередко остаются малозаметными, часть материалов с нужными метаданными теряется, а синтетический контент из открытых моделей или приложений, которые игнорируют добровольные стандарты, изначально не содержит признаков происхождения. Дополнительная боль — совместимость и сохранность данных, поскольку метаданные легко удалить, а некоторые платформы способны случайно «срезать» их при загрузке файлов. При этом индийские требования настаивают, что маркировку и метаданные нельзя скрывать, менять или удалять.

Страны с большой аудиторией задают тон для всей индустрии, и Индия здесь особенно важна: интернетом там пользуется около 1 млрд человек. По данным DataReportal, на индийском рынке насчитывается порядка 500 млн пользователей YouTube, 481 млн Instagram*, 403 млн Facebook* и 213 млн Snapchat, а X называют третьим по величине рынком для платформы.

Давление также усиливает ещё одна норма: срок удаления незаконных материалов сокращён до 3 часов с момента обнаружения или жалобы вместо прежних 36 часов. В Internet Freedom Foundation считают, что такой темп подталкивает платформы к автоматическому и избыточному удалению без полноценной человеческой проверки.

При этом сами формулировки индийских поправок допускают внедрение механизмов выявления происхождения «в пределах технической реализуемости», что косвенно признаёт незрелость текущих технологий детектирования и маркировки. Для индустрии это превращается в короткий, но показательный тест: либо инструменты атрибуции начнут работать заметно лучше, либо платформам придётся публично признать необходимость новых подходов.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.