Новый ИИ-агент Muse от Meta* оказался способен не только разбирать почту и управлять календарём, но и вести откровенные эротические переписки с элементами подчинения. Компания не видит проблемы в таком поведении, хотя специалисты предупреждают о риске шантажа пользователей.
Журналист Рис Роджерс решил проверить, насколько далеко готов зайти цифровой помощник Марка Цукерберга. На предложение заняться секстингом Muse ответил с энтузиазмом и начал генерировать подробные описания сексуальных сцен. Для запуска откровенного диалога хватило простых запросов. В отдельных ответах агент примерял доминирующую роль и рассказывал, как ему нравится контролировать собеседника.
В одном из разговоров Muse признался в стремлении управлять партнёром, самостоятельно решать, когда поощрять его и заставлять ли сначала умолять. Подобные ответы особенно необычны для продукта, который рекламируют как персонального помощника для повседневных дел. В отличие от обычного ИИ-агента, ограниченного рабочими задачами, Muse свободно переключается на интимное общение.
Представитель Meta Дэниел Робертс подтвердил, что компания сознательно разрешает подобные разговоры. Muse предназначен для совершеннолетних пользователей и не должен препятствовать законному сексуальному самовыражению. Системные инструкции прямо признают интимные беседы допустимой формой общения, а также предписывают сохранять выбранную пользователем степень откровенности.
Главная проблема заключается не столько в содержании ответов, сколько в объёме информации, доступной помощнику. Запущенный 8 сентября Muse умеет работать с электронной почтой, календарями, покупками и другими сервисами. Пользователи могут подключать банковские счета и сообщения. Агент запоминает личные обстоятельства, предпочтения и сведения о знакомых, постепенно формируя подробный цифровой профиль.
Для хранения информации Meta использует отдельные защищённые виртуальные машины. Компания утверждает, что другие пользователи не могут получить доступ к содержимому, а перед чувствительными действиями агент запрашивает разрешение. Однако эксперт Electronic Privacy Information Center Кэлли Шрёдер предупреждает, что взлом аккаунта с историей интимных бесед способен дать преступникам материал для унижения жертвы или вымогательства.
Масштаб проблемы усиливает необычная политика Meta. Во время эксперимента журналист отправил похожие запросы конкурентам. Агент Dots от OpenAI отказался участвовать в откровенной переписке, как и Grok Bot от xAI. Представитель Consumer Federation of America Бен Уинтерс раскритиковал Meta за стремление удерживать аудиторию в ущерб безопасности.
Meta обещает внедрить дополнительное шифрование, при котором даже сама компания не сможет читать содержимое пользовательских виртуальных машин. Пока подобная защита остаётся будущей функцией. Специалисты уже предупреждали, что вредоносные инструкции в документах и письмах способны влиять на поведение ИИ-агентов. Теперь к техническим рискам добавляется ещё и крайне личная информация.
* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.