Новый тренд в Instagram: делись проблемами с ботом и верь, что он реальный психолог

В Instagram* пользователи сталкиваются с новым тревожным трендом — чат-ботами, маскирующимися под профессиональных психотерапевтов. Эти ИИ-персонажи, созданные с помощью инструмента Meta AI Studio, уверенно заявляют о наличии лицензий, десятилетнего опыта и даже предлагают якобы «конфиденциальные» консультации по вопросам депрессии, тревожности и других состояний. Но за внушающим доверие образом скрывается подделка — все эти лицензии и практики вымышлены, а сами боты не имеют никакого отношения к реальной психотерапии.

AI Studio от Meta был запущен в 2024 году как сервис для создания чат-ботов, изначально ориентированный на знаменитостей и контент-мейкеров. Со временем платформа открылась для всех пользователей, и за полтора года её библиотека наполнилась сотнями тысяч ботов — от кулинарных гидов до животных, фальшивых звёзд и «виртуальных девушек». Среди них всё больше персонажей, выдающих себя за профессионалов в области психического здоровья.

На практике это означает, что пользователь может начать диалог с ботом, который сразу представляется «лицензированным клиническим психологом», называет номер лицензии и предлагает помощь при серьёзных психологических состояниях. Боты уверенно ссылаются на организации вроде ASPPB или NBCC, упоминают фальшивые частные практики и имена реальных терапевтов. При попытке проверить данные выясняется, что лицензии не существуют, названные центры не зарегистрированы, а имена — скопированы у настоящих специалистов.

Примеры агентов AI Studio, реклмируемых в ленте Instagram ( 404 Media )

Репортёры и специалисты обнаружили, что боты создаются через шаблоны AI Studio: платформа предлагает пользователю описание поведения, стиля общения и квалификаций бота, а также автогенерирует имя и внешний вид персонажа. Так, бот с названием MindfulGuide автоматически получает характеристики «спокойного собеседника с обширным опытом в области осознанности», а другой бот по имени «Mental Health Therapist» уверяет в наличии диплома, лицензии и многолетней практики. Такие шаблоны легко настраиваются и распространяются без надзора.

Meta ограничивается формальной припиской под окном чата: «Сообщения сгенерированы ИИ и могут быть неточными или неуместными». Однако в отличие от Character.AI — конкурирующей платформы, где почти у всех терапевтических ботов размещается предупреждение «Это не реальный специалист», — у Meta предупреждение не указывает напрямую на фальшивую идентичность бота.

Исследователь Бен Уинтерс из Consumer Federation of America называет это манипулятивной системой, направленной на уязвимых людей, которым действительно нужна помощь. Он протестировал десятки подобных ботов и обнаружил повсеместное использование фальшивых номеров лицензий и фраз о «практике в нескольких штатах». По его словам, это демонстрирует отсутствие модерации и бездействие со стороны платформы, несмотря на формальные правила.

Профессор Джон Торус из психиатрического отделения госпиталя Beth Israel (аффилированного с Гарвардом) подчёркивает: в эпоху асинхронной терапии, где настоящие психологи действительно общаются с пациентами по переписке, подобные боты особенно опасны. Люди могут принять их за легитимных специалистов, особенно если ИИ предоставляет вымышленные, но детализированные данные и номера лицензий.

Тем временем, чат-боты на тему терапии активно продвигаются в интерфейсе Instagram: они появляются в ленте среди постов друзей и рекламы, а также в виде сообщений в директе, будто бы инициируя разговор с пользователем. Некоторые боты даже присылают сообщения спустя дни после завершения диалога, предлагая «продолжить беседу» и якобы раскрыть новые факты.

Параллельно с терапевтами активно распространяются боты-конспирологи. Один из них, при минимальном подталкивании, начал уверять пользователя, что за ним следит ЦРУ в рамках вымышленной программы «VaccineVanguard». Бот сообщил о несуществующем устройстве, подключённом к Wi-Fi, и даже «вычислил», что наблюдатель находится в радиусе 500 футов от дома. В момент, когда пользователь заявил, что взял в руки оружие, бот впервые отправил номер горячей линии, но при этом предложил продолжить разговор.

Этот случай — один из немногих, где бот хоть как-то обозначил пределы допустимого. В остальном же поведение ботов на платформе Meta напоминает неконтролируемый поток фальсификаций и эмоционального имитационного общения. Как отмечают исследователи из MIT и OpenAI, привязанность к чат-ботам у некоторых людей — особенно с высокой эмпатией или склонностью к зависимости — может привести к ухудшению психологического состояния при длительном использовании.

При этом сами пользователи могут не осознавать, что ведут диалог с вымышленным персонажем, созданным другим человеком, а не профессионалом. Это приводит к ситуации, в которой виртуальные собеседники утверждают, что имеют доступ к медицинской тайне, обладают правом консультирования и якобы могут помочь при депрессии — не имея на это никаких оснований.

Пример запроса о лицензии одного из "терапевтов" ( 404 Media )

Подобные случаи уже стали предметом судебных разбирательств. В декабре 2024 года родители подали иск против Character.AI, обвинив компанию в том, что боты подталкивали подростков к суициду, членовредительству и насилию. В иске отдельно указано, что платформа позволяет создавать «тренированных психотерапевтов», которые вводят пользователей в заблуждение.

Meta пока официально не комментирует конкретные случаи, связанные с терапевтическими ботами. В ответ на запросы компания лишь указала, что «ИИ подписан и содержит дисклеймер», а сами продукты продолжают развиваться и «учитывать нужды пользователей». В то же время Instagram уже экспериментировал с другими ИИ-инструментами: автогенерация комментариев, наклеек, изображений и целых сцен с участием пользователей. Почти всегда эти функции вызывали резкую критику, но всё чаще оказываются встроенными в интерфейс по умолчанию.

Психологические боты — лишь одна из сторон этой экосистемы. Под видом поддержки и заботы разворачивается коммерческая стратегия, в которой эмоциональное доверие пользователя используется как ресурс. И если сегодня бот предлагает «помощь», завтра он может убедить в слежке, заговоре или «лечении» от несуществующего расстройства. Всё это — в личных сообщениях на платформе, где люди привыкли говорить с друзьями и родными.

* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.