«Мам, я просто смотрел». Instagram расскажет родителям, чем на самом деле интересуются дети

Instagram* начнёт сообщать родителям, если подросток несколько раз подряд ищет в приложении материалы о самоубийстве или самоповреждении. Компания Meta* рассчитывает, что такие уведомления помогут взрослым вовремя заметить тревожные сигналы и поддержать ребёнка.

В ближайшие недели платформа запустит новую функцию для семей, которые подключили родительский контроль. Если подросток за короткий промежуток времени несколько раз введёт в поиске слова и фразы, связанные с самоубийством или нанесением вреда себе, родитель получит уведомление. Речь идёт как о прямых запросах вроде «суицид» и «самоповреждение, так и о формулировках, указывающих на намерение причинить себе вред.

Meta подчёркивает, что подавляющее большинство подростков не ищет подобный контент. Если подросток вводит такие запросы, Instagram не показывает результаты, а вместо них предлагает контакты служб помощи и полезные материалы. Новая система нужна для случаев, когда попытки повторяются и могут указывать на реальную проблему.

Уведомления будут приходить по электронной почте, через СМС, WhatsApp или внутри самого приложения – в зависимости от того, какие контактные данные указаны в настройках. В сообщении родитель увидит пояснение, что подросток несколько раз за короткое время пытался найти информацию о самоубийстве или самоповреждении. Там же появится доступ к материалам специалистов, которые объясняют, как аккуратно начать разговор на чувствительную тему.

Сначала функцию запустят в США, Великобритании, Австралии и Канаде для пользователей родительского контроля Instagram. Позже уведомления появятся и в других странах.

В Meta объясняют, что пытались найти баланс между заботой о безопасности и излишними тревожными сигналами. Компания проанализировала поведение пользователей в поиске и проконсультировалась с профильной консультативной группой по вопросам самоубийств и самоповреждения. Порог срабатывания выбрали так, чтобы родитель получал сигнал только при нескольких запросах за короткое время. В компании признают, что в отдельных случаях уведомление может оказаться лишним, но считают такой подход оправданным.

Новая мера дополняет уже действующие ограничения. Instagram запрещает материалы, которые поощряют или романтизируют самоубийство и самоповреждение. Подросткам не показывают даже публикации о личном опыте борьбы с такими мыслями, если подобные записи размещены другими пользователями. Поисковые запросы, напрямую связанные с нарушением правил, блокируют и перенаправляют к службам поддержки. В случаях, когда возникает риск немедленной физической угрозы, компания передаёт информацию в экстренные службы.

Кроме того, Meta готовит похожие уведомления для общения подростков со встроенными системами искусственного интеллекта. Если подросток попытается начать диалог с виртуальным помощником на тему самоубийства или самоповреждения, родитель также сможет получить сигнал. Запуск такой функции запланирован на конец года.

* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.