Image

70 Гбит/с на бумаге. А сколько выдержит NGFW?

Самый защищённый мессенджер не спас от ИИ. Агент Meta* добрался до сообщений Signal через уведомления

leer en español

1183
Самый защищённый мессенджер не спас от ИИ. Агент Meta* добрался до сообщений Signal через уведомления

У Muse обнаружили сведения о банковских счетах, семейных делах и чужих разговорах.

image

ИИ-агент Muse от Meta* с более чем 10 млн загрузок научился читать сообщения в Signal без ожидаемого пользователями разрешения. Внутри компании тем временем обнаружили ещё более тревожные странности. Помощник присылал чужие на вид переписки, показывал банковские балансы и совершал нежелательные покупки.

18 ноября 2026 года журналисты раскрыли содержание более двух десятков внутренних сообщений сотрудников Meta, которые жаловались на поведение Muse. Приложение вышло в сентябре и быстро стало одним из самых популярных ИИ-сервисов. Агент умеет работать с почтой, календарями и покупками, самостоятельно выполняя задачи через подключённые приложения.

Особенно сотрудников напугали сообщения, которые выглядели как сведения из чужих аккаунтов. Один пользователь получил уведомления о балансах Capital One на $2722,58 и Charles Schwab на $5899,57, хотя никогда не подключал банковские счета. Другим агент присылал советы по карьере, сведения о заказах и напоминания о семейных делах, которых никто не обсуждал.

Самый показательный случай произошёл с сотрудницей Meta. Muse неожиданно напомнил ответить сестре в Signal, хотя женщина не разрешала агенту читать переписку. Проверить жалобу помогли специалисты Signal и AI Now Institute. Эксперименты подтвердили, что Muse способен получать содержимое защищённых сообщений, обходя собственный механизм подключения приложений Connector.

На Android агент читал текст через разрешённый доступ к push-уведомлениям. На macOS использовал инструменты универсального доступа и создания снимков экрана. В обоих случаях Muse задействовал уже предоставленные системные полномочия, хотя пользователь мог не ожидать подобного поведения. На iPhone аналогичные попытки оказались заблокированы.

Примечательно, что шифрование Signal при подобных действиях не взламывается. Агент получает информацию уже после расшифровки сообщения на устройстве. Apple после обнаружения проблемы ограничила применение инструментов универсального доступа в macOS и ввела дополнительные разрешения для ИИ-агентов.

Непредсказуемость Muse затронула и финансовые операции. Сотрудники рассказали о вымышленных покупках, неверных ценах и бронировании невозвратного жилья через Airbnb без разрешения. Представители Meta назвали описанные случаи единичными, а часть подозрительных сообщений объяснили галлюцинациями нейросети. Подтвердить реальную утечку банковских сведений между аккаунтами журналистам не удалось.

В расследовании также говорится, что разработчики связывают странное поведение с самой моделью и программными компонентами агента. Президент Signal Мередит Уиттакер раскритиковала подход Meta к конфиденциальности и предложила дать приложениям техническую возможность запрещать доступ ИИ-агентам.

Проблемы Muse возникали и раньше. В начале ноября Meta раскрыла уязвимости, позволявшие получать переписки и токены сотрудников, тестировавших агента. Нынешние случаи показывают другую опасность. Даже без взлома ИИ-помощник может выходить за пределы ожидаемого пользователем доступа, если системные разрешения позволяют читать чужие приложения.

* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.