Хотели поговорить по душам с ботом — теперь ждите гостей в чёрных пиджаках

Генеральный директор Meta* Марк Цукерберг активно продвигает идею будущего, в котором искусственный интеллект станет не просто помощником, но чем-то вроде личного советника, хорошо знающего человека. В его представлении у каждого будет ИИ, способный заменить психолога — особенно для тех, у кого нет возможности обратиться к живому специалисту. С технической точки зрения идея уже воплощается: миллионы пользователей по всему миру откровенничают с чат-ботами. Кто-то использует специализированные терапевтические приложения, но многие предпочитают общаться с универсальными платформами, такими как ChatGPT от OpenAI, Meta AI или Grok от xAI.

Однако это новое поведение становится потенциально опасным — не столько из-за того, что говорит сам бот, сколько из-за того, кто может получить к этим разговорам доступ. Под маской заботы разворачивается тревожная тенденция: технологические корпорации призывают пользователей делиться своими самыми сокровенными мыслями и переживаниями, а государственные структуры — собирать максимально возможный массив личной информации, зачастую пренебрегая правовыми рамками и этическими нормами.

Федеральные власти США уже демонстрируют готовность использовать частные данные для давления и преследования. Иммигранты лишаются виз за законные высказывания, студенты попадают под арест за статьи в газетах, а правительство активно вмешивается в академические программы и медиа, обвиняя их в «недопустимой» политике инклюзии. Министр здравоохранения Роберт Кеннеди-младший предлагает заменить антидепрессанты трудовыми лагерями, а ведомство, которое он возглавляет, намерено создать федеральную базу данных людей с аутизмом — с использованием медицинских файлов и носимых устройств.

На фоне этого департамент под названием DOGE — возглавляемый Илоном Маском — пытается централизовать сбор данных обо всех американцах, включая информацию из разных госструктур. Его первые действия включали раскрытие информации о малозаметных госслужащих, сопровождавшееся целенаправленными онлайн-атаками.

Тем временем крупные ИИ-платформы становятся основными каналами для исповеди миллионов пользователей. И это платформы, чьи владельцы явно стараются сблизиться с Дональдом Трампом. Маск работает на правительство, Цукерберг активно лоббирует интересы Meta, а Сэм Альтман из OpenAI поддерживает приоритеты администрации Трампа, включая снятие ограничений с энергетики и отказ от регулирования ИИ на уровне штатов. Даже Google, стоящая за Gemini AI, действует осторожно в том же направлении.

Пока пользователи делятся своими страхами, мыслями о самоубийстве, гендерной идентичности или расовой несправедливости, власти получают всё больше рычагов для вмешательства. Особо уязвимыми становятся те, кто уже попал в фокус — медицинские работники, активисты, сотрудники университетов и представители НКО. Даже единичная фраза, случайно сказанная в чате, может привести к визиту иммиграционной службы или к проверке «нелегальной политики DEI» в организации.

Чат-боты, по сути, расширяют уязвимости традиционного интернета. Переписка с ботом зачастую более интимна и эмоциональна, чем поисковые запросы. При этом она не защищена сквозным шифрованием, как, например, чаты в мессенджерах. И хотя компании обещают защищать данные, нет гарантии, что они не передадут их по первому требованию — особенно в условиях давления или манипуляций.

Опыт предыдущих лет, включая программы слежки АНБ и вскрытые Эдвардом Сноуденом системы массового наблюдения, показал, насколько легко и незаметно государство может получить доступ к самым личным данным. Теперь же вместо звонков — разговоры с ИИ, и следить за ними становится ещё проще.

На фоне этого возможны любые последствия: от утечки личных разговоров до прямого вмешательства в частную жизнь. И всё это может быть подано под предлогом защиты детей, борьбы с терроризмом или медицинской помощи.

Компании могли бы повысить стандарт конфиденциальности, особенно в ИИ-приложениях, имитирующих терапию. Например, внедрить принципы HIPAA или реализовать технологические решения, исключающие доступ к логам. Но вместо этого те же самые корпорации поддерживают политиков, заинтересованных в подавлении свободы высказываний и контроле над личной жизнью граждан.

Представители Meta* и OpenAI не стали детализировать меры защиты личных данных. Вместо этого они подчеркнули, что их ИИ не заменяют врачей и при необходимости рекомендуют обратиться к профессионалам. xAI и Google отказались от комментариев. Хотя доказательств массового мониторинга логов ИИ пока нет, реальность стремительно приближается к антиутопии. Всё больше новостей звучат так, как ещё вчера казались бы конспирологией. А учитывая, насколько личными стали разговоры с ИИ, именно они могут стать новой точкой входа для тотального контроля.