Ваш личный ассистент сдал вас хакерам. Рассказываем, как ИИ научился читать зашифрованные чаты

Развитие автономных ИИ-агентов вызывает обеспокоенность у разработчиков защищённых мессенджеров. Всё чаще звучат предупреждения о том, что их появление может поставить под угрозу конфиденциальность переписки даже в приложениях с надёжной системой шифрования. Причина — в объёме доступа, который такие помощники получают к пользовательским данным на устройстве.

Глава Signal Foundation Мередит Уиттакер на Всемирном экономическом форуме в Давосе подчеркнула, что всё более тесная интеграция ИИ-агентов в операционные системы создаёт серьёзные риски для сервисов, ориентированных на защиту приватности. По её словам, чтобы эффективно выполнять поручения пользователя, таким цифровым ассистентам требуется практически полный доступ к устройству — в том числе к приложениям с чувствительной информацией. Это могут быть как мессенджеры, так и программы с банковской информацией или списками контактов.

Особую угрозу Уиттакер видит в том, что данные, которыми ИИ-агент оперирует во время своей работы, хранятся в контекстном окне — временной области памяти, которая может стать уязвимостью. В случае компрометации этой части система шифрования, обеспечивающая безопасность переписки, теряет значение. Достаточно получить контроль над этим сегментом, чтобы перехватить конфиденциальные сведения, не взламывая шифрование напрямую.

По словам главы Signal Foundation, подобная архитектура нарушает чёткое разделение между приложениями и операционной системой. Уиттакер сравнила это с разрушением естественного барьера между кровью и мозгом — системы, призванной защищать организм от внешних угроз.

Особое беспокойство вызывает сценарий, при котором ИИ-агент получает права администратора. В этом случае потенциальный вред значительно возрастает — злоумышленники смогут использовать помощника в качестве обходного пути для доступа ко всем данным на устройстве.

Signal, как и другие защищённые мессенджеры, ориентирован на максимальное сохранение приватности пользователей. Однако тенденция к внедрению ИИ во все аспекты работы смартфонов может подорвать эти усилия, даже если шифрование остаётся неизменным. Угроза кроется не в уязвимости алгоритмов, а в обходе защитных механизмов через вспомогательные элементы системы.