WhatsApp научил ИИ читать ваши сообщения… не читая их

Компания Meta* добавила в WhatsApp новую технологию под названием «Private Processing», которая позволит использовать функции искусственного интеллекта без ущерба для приватности. По словам разработчиков, это решение позволит резюмировать непрочитанные сообщения, редактировать текст и выполнять другие действия с помощью ИИ, при этом сохраняя приватность сообщений пользователей.

Основная идея — дать пользователям доступ к ИИ, не раскрывая при этом содержание переписки ни Meta, ни WhatsApp, ни кому-либо ещё. Все запросы будут обрабатываться в изолированной среде, названной конфиденциальной виртуальной машиной (Confidential Virtual Machine, CVM). Именно в этой среде происходит безопасная обработка данных — даже технически владельцы платформы не смогут получить к ним доступ.

В основе подхода лежат несколько архитектурных гарантий. Первая — это обеспечиваемые технически обязательства: если кто-то попытается вмешаться в систему и нарушить её конфиденциальность, она либо прекращает работу, либо становится уязвимой для внешнего обнаружения. Вторая — возможность внешнего аудита: пользователи и исследователи смогут проверять работу механизма. И третья — невозможность индивидуального таргетирования. Если кто-то захочет выделить одного пользователя, ему придётся нарушить всю систему безопасности сразу, что делает атаку практически невозможной.

Чтобы запрос обрабатывался, WhatsApp использует анонимные удостоверения и соединение через Oblivious HTTP (OHTTP). Это технология, скрывающая IP-адрес пользователя и создающая зашифрованный канал между устройством и сервером Meta. Передача запроса идёт через сторонний ретранслятор, и только потом — в доверенную среду исполнения (Trusted Execution Environment), где данные дешифруются и анализируются.

Обработка сообщений в Private Processing также не оставляет следов. После завершения операции ни сама система, ни злоумышленник не смогут восстановить содержимое прошлых запросов — всё устроено так, чтобы исключить даже гипотетическую возможность восстановления данных.

Meta признаёт существование потенциальных уязвимостей. К ним относятся атаки через скомпрометированных сотрудников, уязвимости в цепочках поставок и действия вредоносных пользователей. Но в компании уверяют, что система спроектирована с многослойной защитой, минимизирующей шансы на взлом.

Для повышения прозрачности Meta намерена публиковать хэши и образы CVM-бинарников. Это даст возможность исследователям сверять их с оригиналом и выявлять случаи возможной утечки данных.

Новая технология перекликается с инициативой Apple под названием Private Cloud Compute (PCC), которая также работает через OHTTP и обрабатывает запросы в изолированной среде. В конце 2023 года Apple позволила специалистам протестировать PCC и оценить её уровень защиты.

Таким образом, WhatsApp делает очередной шаг в сторону безопасного ИИ — с сохранением главного принципа: личная переписка остаётся личной.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.