Соцсети с 16 лет и жесткий надзор за нейросетями. Власти Канады меняют правила для технологических гигантов

Канада решила взяться за соцсети и чат-ботов жестче, чем раньше. Правительство страны внесло законопроект C-34, который должен обязать крупные цифровые сервисы лучше защищать детей и подростков от травли, эксплуатации детей, опасного контента и вредных ответов искусственного интеллекта.

Законопроект вводит новые правила для социальных сетей, сервисов прямых трансляций, платформ с пользовательским контентом для взрослых и чат-ботов на базе искусственного интеллекта.

Авторы инициативы указывают, что онлайн-сервисы давно стали частью повседневной жизни, но вместе с пользой принесли заметные риски. По данным канадских властей, каждый четвертый подросток в возрасте от 12 до 17 лет сталкивался с кибертравлей. Также растет число зарегистрированных полицией случаев, связанных с CSAM в интернете.

Отдельный акцент сделан на механизмах самих платформ. Ленты рекомендаций, автозапуск, бесконечная прокрутка и алгоритмы вовлечения могут способствовать тому, чтобы вредный контент распространялся и чаще показывался несовершеннолетним. Чат-боты с искусственным интеллектом создают еще одну проблему, поскольку могут долго общаться с пользователем и в чувствительных ситуациях давать небезопасные ответы.

Законопроект выделяет семь категорий вредного контента. Среди них интимные материалы, опубликованные без согласия, CSAM-изображения, материалы, которые склоняют ребенка к самоповреждению, контент для травли детей, материалы, разжигающие ненависть и призывающие к физическим расправам, а также материалы, связанные с терроризмом и экстремизмом.

Соцсети и чат-боты должны будут заранее оценивать риски, внедрять защитные механизмы для детей, публиковать правила для пользователей и давать простые инструменты для жалоб и блокировки. Соцсети также обяжут закрывать доступ к материалам, в которых детей эксплуатируют, и интимным изображениям, опубликованным без согласия, включая порнодипфейки. Для чат-ботов предусмотрят отдельные обязанности. Разработчики должны будут снижать риск вредных ответов, вводить меры для экстренного реагирования в кризисных ситуациях и предотвращать поведение системы, способное навредить пользователю.

Канада также планирует ввести минимальный возраст для аккаунтов в соцсетях. Власти намерены установить планку в 16 лет, хотя комиссия сможет сделать исключение для сервиса, если платформа докажет наличие достаточных защитных мер для детей.

Следить за тем, как платформы выполняют новые правила, будет Комиссия по цифровой безопасности Канады. Новый орган получит право проверять отчеты платформ, проводить аудит, выдавать предписания, рассматривать жалобы пользователей и штрафовать сервисы за нарушения. Компании также должны будут публиковать планы цифровой безопасности с описанием мер, которые помогают выполнять требования закона.

Канадские власти считают, что добровольных мер со стороны платформ уже недостаточно. По замыслу правительства, новый закон должен сделать крупные онлайн-сервисы более прозрачными и ответственными за риски, которые создают их собственные продукты.