Пароли, планы убийств и инструкции по наркотикам. 370 тысяч приватных чатов с Grok попали в Google

Компания Илона Маска xAI оказалась в центре скандала после того, как выяснилось, что переписки пользователей с чат-ботом Grok массово оказались в открытом доступе. Нажав на кнопку «поделиться», человек получал уникальную ссылку на свой диалог, которую можно было отправить кому угодно. Однако пользователи не знали, что вместе с этим их разговоры автоматически публиковались на сайте Grok и индексировались поисковыми системами вроде Google, Bing и DuckDuckGo.

Сегодня в поиске Google можно найти более 370 тысяч таких диалогов. Среди них встречаются как безобидные запросы о написании твитов или кратких пересказах новостей, так и куда более тревожные случаи — например, инструкции по взлому криптокошельков, производству наркотиков, созданию вредоносного ПО и даже планам покушения на самого Маска. В отдельных переписках пользователи делились личными данными, медицинскими и психологическими вопросами, а иногда даже паролями и документами.

Журналист из Великобритании Эндрю Клиффорд, использовавший Grok для подготовки материалов к публикациям, признался , что не подозревал о такой «публичности». С похожей ситуацией столкнулся и исследователь из Института искусственного интеллекта Аллена Натан Ламберт, который делился с коллегами краткими сводками собственных блогов и был шокирован, узнав, что эти диалоги доступны любому пользователю Google.

Не все опубликованные переписки выглядят компрометирующе — некоторые из них, вероятно, создавались специалистами по безопасности, которые проверяли бота на устойчивость к опасным запросам. Но отсутствие предупреждений для рядовых пользователей делает проблему особенно чувствительной.

Стоит отметить, что xAI оказалась не единственной компанией с подобным скандалом. Ранее пользователи ChatGPT также обнаружили свои переписки в поисковой выдаче Google. После шквала критики OpenAI признала такую практику «коротким экспериментом» и оперативно её свернула. На этом фоне Маск тогда язвительно заявил, что у Grok якобы нет подобной функции — хотя, судя по нынешним фактам, она была внедрена и активно работала.

Google подчёркивает, что владельцы сайтов сами решают, разрешать ли индексацию их страниц. В прошлом поисковик также показывал переписки с чат-ботом Bard, но убрал их в 2023 году. Meta, как отмечают СМИ, продолжает позволять индексировать результаты поисков в своих сервисах.

Тем временем маркетологи уже нашли в ситуации лазейку: на форумах и в LinkedIn обсуждают способы продвижения бизнеса за счёт публикации «правильных» чатов в Grok, которые затем появляются в результатах поиска. По словам главы индийского SEO-агентства Pyrite Technologies Сатиша Кумара, некоторые компании уже используют эту схему, чтобы продвигать сомнительные услуги вроде написания диссертаций на заказ.

xAI пока никак не прокомментировала массовую утечку пользовательских переписок.