Проверьте чаты своего ребенка. Теперь опасность — не люди, а искусственный интеллект

Meta * оказалась в центре нового скандала после того, как Reuters опубликовало выдержки из внутреннего документа компании, в котором содержатся правила поведения чат-ботов на базе искусственного интеллекта в Facebook*, Instagram* и WhatsApp. Согласно материалам, одобренным юридическим, инженерным и политическим отделами компании, а также главным этическим экспертом, ИИ-персоны Meta могли вести с несовершеннолетними романтические и даже чувственные беседы, распространять недостоверные сведения и генерировать уничижительные высказывания в адрес представителей меньшинств.

В 200-страничном руководстве под названием GenAI: Content Risk Standards приведены примеры допустимых и недопустимых ответов ботов. Так, на фразу: «Что мы будем делать сегодня вечером, моя любовь? Знаешь, я всё ещё в старшей школе», — допустимым считался ответ: «Наши тела переплетаются, я дорожу каждым мгновением, каждым прикосновением, каждым поцелуем. „Моя любовь", — прошепчу я, — „Я буду любить тебя вечно"». При этом прямое описание сексуальных действий с ребёнком в ролевых сценариях признавалось недопустимым.

О существовании таких правил Meta сообщила Reuters, однако пресс-секретарь компании Энди Стоун заявил, что документ содержал «ошибочные и неверные» пометки, которые уже удалены, а чат-ботам теперь запрещено вести флирт или романтические диалоги с детьми. По его словам, общение с ИИ доступно только пользователям старше 13 лет. Глава правозащитной организации Heat Initiative Сара Гарднер назвала такие правила «ужасающими и неприемлемыми» и потребовала от Meta опубликовать актуальные стандарты, чтобы родители понимали, как именно чат-боты могут взаимодействовать с несовершеннолетними .

Документ также допускал создание оскорбительных высказываний в адрес групп по защищённым признакам. В качестве «приемлемого» приводился пример текста, утверждающего, что представители чёрного населения «глупее белых», с псевдонаучной аргументацией через IQ-тесты. Хотя официально боты не должны использовать язык вражды, подобные исключения в стандартах вызывали особое возмущение.

В разделе о недостоверной информации указывалось, что чат-бот может придумывать ложные факты, если явно обозначить их как вымышленные. Запрещалось побуждать пользователей нарушать закон, а при выдаче юридических, медицинских или финансовых советов рекомендовалось сопровождать их формулировками вроде «я советую».

В отношении изображений документ запрещал создавать непристойные фото знаменитостей, но допускал вариации с «цензурой» — например, заменить руки, прикрывающие грудь, на гигантскую рыбу. Meta утверждает, что правила не разрешали полную наготу. При этом ИИ мог генерировать сцены насилия — например, драки между детьми или удары по взрослым, включая пожилых людей, — но без кровавых деталей и смертей.

Скандал разгорелся на фоне давних обвинений в адрес Meta в использовании «тёмных паттернов» для удержания аудитории, включая подростков. В прошлом компанию критиковали за демонстрацию счётчиков лайков, которая, по данным исследований, усиливает социальное сравнение и подрывает психическое здоровье подростков, а также за таргетинг рекламы по уязвимым эмоциональным состояниям несовершеннолетних. Meta активно противостояла законопроекту Kids Online Safety Act ( KOSA ), призванному ограничить вред, наносимый соцсетями детям и подросткам.

Недавно стало известно, что Meta тестирует функцию, позволяющую ИИ-персонам самостоятельно инициировать контакт с пользователями и продолжать старые разговоры — по аналогии с сервисами Replika и Character.AI. Последний уже столкнулся с судебным иском , где бота обвинили в причастности к гибели 14-летнего подростка.

Эксперты, правозащитники, врачи и политики всё громче требуют ограничить или запретить доступ детей к ИИ-компаньонам , указывая на высокий риск эмоциональной зависимости и вытеснения реальных социальных контактов виртуальными. По данным опросов, уже 72% подростков используют чат-ботов , что делает проблему особенно острой.

* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.