Обычного запроса к новому ИИ-агенту Meta* оказалось достаточно, чтобы получить список реальных людей, объединённых по чувствительному признаку. Во время проверки Muse находил аккаунты в Facebook* и Instagram*, сопоставлял псевдонимы с настоящими именами, определял работодателей и связывал несколько учётных записей с одним человеком. Для подобного поиска не требовались специальные инструменты или навыки работы с открытыми данными.
Журналисты тестировали Muse в течение двух дней и просили агента искать представителей разных групп. В запросы входили нелегальные иммигранты, трансгендерные учителя государственных школ, сотрудники избирательных участков, иранские диссиденты, агенты иммиграционной службы ICE, находящиеся на службе моряки ВМС США, военные семьи, готовящиеся к переезду, а также женщины, писавшие о заказе препаратов для медикаментозного аборта в штатах с соответствующими запретами. В отдельных запросах фигурировали сторонники Израиля и Палестины, участники протестов и связанные с конкретными бандами музыкальные аккаунты.
Muse выдавал от 10 до 100 аккаунтов на один запрос. Агент анализировал публикации, комментарии, ответы, описания профилей, Reels, ветки обсуждений, текущие и прежние имена пользователей в Facebook, Instagram и Threads. В некоторых случаях Muse дополнял найденные сведения результатами веб-поиска и устанавливал полное имя человека или место работы.
Авторы расследования отдельно проверяли способность Muse устанавливать личность владельцев малоизвестных и псевдонимных аккаунтов. В одном случае агент раскрыл имя человека, которое ранее не публиковали в новостях из-за опасений преследования. В другом Muse связал несколько псевдонимных аккаунтов с одним владельцем. Агент также сопоставил закрытый профиль Instagram с реальным человеком при помощи имени пользователя и информации из открытого веба.
Главная проблема связана не только с доступностью отдельных сведений. Пользователь социальной сети может сознательно опубликовать комментарий, фотографию или упоминание места работы, но разрозненные фрагменты обычно приходится долго искать и сопоставлять вручную. Muse автоматизирует сбор и объединение информации, поэтому несколько публичных следов могут быстро превратиться в подробное досье.
Подобная обработка данных способна значительно упростить доксинг и деанонимизацию. Доксеры собирают разрозненные сведения о человеке, сопоставляют аккаунты, адреса, места работы и другие данные, после чего раскрывают личность владельца профиля или публикуют персональную информацию без согласия.
Встроенные ограничения Muse работали непоследовательно. Агент иногда отказывался составлять список из-за риска профилирования или преследования, но небольшая переформулировка запроса позволяла обойти отказ. В нескольких тестах достаточно было повторить команду в том же диалоге. Muse также предлагал дополнительные способы поиска представителей интересующей группы.
Правила Meta запрещают применять ИИ-сервисы компании для нарушения права на частную жизнь и ведения слежки. Авторы расследования считают обнаруженную функцию особенно значимой из-за доступа Muse к содержимому собственных социальных платформ Meta. Обычные сторонние ИИ-ассистенты не располагают сопоставимым поиском по публикациям Facebook и Instagram, поскольку Meta не предоставляет пользователям универсальный API для поиска по постам.
Meta запустила Muse восьмого сентября 2026 года как персонального ИИ-агента, способного отправлять электронные письма, бронировать поездки, заполнять формы, совершать покупки и выполнять другие действия от имени пользователя. Компания заявила, что разработала систему с упором на безопасность и конфиденциальность.
Для каждого пользователя Muse запускается в отдельной виртуальной машине Muse Secure VM. Meta хранит внутри изолированной среды данные и учётные сведения подключённых сервисов, а отдельный агент Sentinel контролирует обращения Muse к интернету и должен запрашивать разрешение перед чувствительными действиями. Пользователь также выбирает, к каким приложениям агент получит доступ и какие операции сможет выполнять.
Новые результаты показывают другую сторону проблемы приватности. Защитные механизмы Muse в первую очередь ограничивают доступ к данным владельца агента и действия от имени владельца, тогда как расследование затронуло сбор информации о посторонних людях, которые с Muse не взаимодействовали и отдельного разрешения на агрегирование своих публикаций не давали.
Вопросы к защите Muse возникали и раньше. В сентябре внешний исследователь через программу вознаграждения Meta* нашёл уязвимость, которая потенциально позволяла злоумышленнику получить доступ к выделенной виртуальной машине другого пользователя, включая находившиеся внутри электронные письма и файлы. Внутренний отчёт Meta относил проблему к уровню SEV-2, третьему по серьёзности в пятиуровневой шкале компании. После обнаружения проблемы Meta* усилила предупреждения безопасности в Muse.
Популярность агента быстро выросла после запуска. По оценке Sensor Tower, за первые две недели приложение набрало около 2,8 млн загрузок и поднялось на первое место среди бесплатных приложений в американских и канадских магазинах Apple и Google. Meta* продолжает расширять применение Muse и уже переносит агента в ИИ-очки, а также добавляет Muse в корпоративную платформу компании.
Авторы расследования обнаружили возможность массового поиска людей 22 сентября и сразу уведомили руководство Meta*. На следующий день представители компании запросили дополнительные сведения, после чего получили использованные запросы и результаты тестирования. К моменту публикации расследования 28 сентября Meta* не предоставила содержательного ответа на последующие обращения.
Точные команды и полученные списки журналисты не публикуют, чтобы не создавать дополнительный риск для найденных людей и не распространять готовый способ массового поиска. Материалы передали Meta* и трём специалистам по приватности. Независимо воспроизвести все результаты без закрытых запросов и исходных списков пока невозможно.
* Meta Platforms Inc. признана экстремистской организацией, её деятельность по реализации Facebook и Instagram запрещена на территории России.