Представь, что Google публикует твою историю поиска. Meta так и сделала. Только хуже

Специалисты обнаружили, как масштабы вторжения Meta* в личную жизнь пользователей оказались по-настоящему пугающими. Новая функция в ИИ-приложении Discover незаметно для многих превратила конфиденциальные беседы людей с чат-ботом в публичную ленту. Инструмент, по задумке компании, должен был вдохновлять других пользователей на взаимодействие с Meta AI . Однако на деле он стал одной из самых абсурдных и опасных функций, внедрённых в социальную платформу.

Сама по себе идея может показаться безобидной: в ленте отображаются запросы, сгенерированные с помощью ИИ — например, изображение «яйца с одним чёрно-золотым глазом» или «мальтийской собачки в образе спасателя». Однако вместе с безвредными запросами пользователи обнаружили там и полные, ничем не отфильтрованные текстовые переписки с ботом. Эти диалоги включали интимные детали — от сложных медицинских диагнозов до исповедей о преступлениях, страхах, изменах и тяжёлых переживаниях.

Особо тревожным стало то, насколько легко переписки можно привязать к реальным людям. Поскольку доступ к Meta AI осуществляется через учётные записи Facebook* или Instagram*, каждый публичный диалог связан с конкретным профилем. Это означает, что даже самые личные вопросы, заданные с уверенностью в конфиденциальности, могут быть мгновенно идентифицированы и ассоциированы с человеком.

Некоторые из диалогов, оказавшихся в открытом доступе, действительно вызывают шок. В публичной ленте были обнаружены:

• рассказ пожилого мужчины с инвалидностью, мечтающего найти молодую жену, которая будет за ним ухаживать;

• откровения о фибромиалгии, ожирении и необходимости инвалидной коляски;

• вопрос: «В каких странах молодые женщины предпочитают пожилых белых мужчин?»;

• обращение с тревогой: «При ДЦП теряется чувствительность в ногах? Потому что это сейчас происходит»;

• обсуждение ситуации с онкологическим диагнозом;

• просьба помочь составить письмо судье, чтобы избежать смертной казни по делу об убийстве двух человек — возможно, шутка, но в таком контексте это звучит зловеще;

• обсуждение интимных вопросов, включая сексуальные предпочтения, измены, домашнее насилие и юридическую ответственность близких за неуплату налогов компанией.

Журналисты и специалисты быстро заметили, что пользователи даже не подозревают о публикации своих разговоров. Один из них оставил комментарий под своим же диалогом в публичной ленте: «Это где-то опубликовано? Я бы был в ужасе. Yikes?» Подобная реакция подчёркивает, что ожидания пользователей касательно приватности не совпадают с тем, как Meta распоряжается их данными.

Компания Social Proof Security, изучив подборку таких публичных чатов, выразила обеспокоенность: многие диалоги содержат медицинские детали, информацию о преступлениях, домашние адреса, имена членов семьи, обсуждения внебрачных связей и другие конфиденциальные данные. По словам Social Proof Security, Meta должна была с самого начала сделать такие чаты закрытыми по умолчанию и исключить возможность их случайной публикации.

После шквала критики Meta начала вносить правки. По сообщениям Business Insider, текстовые переписки исчезли из вкладки Discover — остались только визуальные генерации. Однако уже через день текстовые чаты вернулись. Во вторник днём в публичной ленте снова можно было увидеть, например, аудиозапись разговора женщины с ботом о сроках давности для подачи заявления о домашнем насилии в Индиане. Также среди новых публикаций обнаружились шесть подряд запросов о киносерии «Джон Уик», обсуждение исторических споров о Холокосте и анестезии при акушерских процедурах. Один из наиболее эмоциональных диалогов включал признание в депрессии: «жизнь каждый день бьёт по мне с новой силой».

Некоторые из наиболее личных чатов, упомянутых журналистами, действительно стали недоступны. Однако большая часть по-прежнему доступна в публичной вкладке, без какого-либо предупреждения об их характере или последствиях публикации.

Масштаб проблемы трудно переоценить. Если попытаться найти аналог, то это похоже на ситуацию, в которой Google начал бы публиковать историю поисковых запросов своих пользователей в качестве контента, или если бы Pornhub вывесил чужую историю просмотров — с возможностью определить автора. Только в случае Meta это не гипотеза, а реальность, уже запущенная на миллионы пользователей.

Ситуация иллюстрирует не просто технологическую небрежность, а глубинную философию компании. Meta не просто допустила ошибку — она сознательно использует личные данные как часть стратегии внедрения ИИ. ИИ для Meta — это не просто функция, это будущий интерфейс взаимодействия с миром. И если для этого нужно превратить человеческие исповеди в корм для алгоритмов и ленты Discover — компания идёт на это без колебаний.

Meta уже давно критикуется за распространение «ИИ-жвачки» — низкокачественного контента , созданного генеративными ИИ, включая фейки, спам, дипфейки, фальшивые образы и «виртуальных инфлюенсеров». Теперь к этому добавился ещё один пример того, как компания разрушает доверие к цифровым платформам, превращая частную сферу в публичное шоу ради вовлечённости и роста охватов.

Если пытаться объяснить логику компании, можно предположить, что Meta хотела решить проблему пустого окна запроса — когда пользователь не знает, что писать боту. Лента Discover должна была послужить источником вдохновения. Но цену за это «вдохновение» теперь платят те, кто доверился ИИ как собеседнику, не зная, что говорит не только машине, но и всему интернету.

* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.