Ваши секреты теперь в выдаче по второй ссылке. Рассказываем о «безопасности» современных чат-ботов

Разговоры пользователей с чат-ботом Claude неожиданно оказались в открытом доступе через поиск Google. Сотни диалогов можно было найти так же просто, как обычные страницы сайтов. Позже они исчезли из выдачи, но сама ситуация уже стала поводом для вопросов к разработчикам и поисковикам.

Компания Anthropic стала уже третьим разработчиком систем искусственного интеллекта, у которого переписка пользователей с ботом попала в результаты поиска. Ранее похожие случаи произошли с ChatGPT и Grok. Речь идет о диалогах, которыми пользователи делились через встроенную функцию «поделиться». Сервис создавал отдельную страницу с перепиской, на которую можно было отправить ссылку другим людям.

В Anthropic утверждают, что такие страницы были закрыты от индексации поисковыми роботами Google и других систем. Несмотря на это, поисковик обнаружил и добавил в базу почти 600 диалогов. Среди них были запросы сотрудников самой компании на создание приложений, игр и даже шуточного «симулятора офиса Anthropic». Другие пользователи просили бота писать книги, помогать с программированием и выполнять рабочие задания. В ряде случаев в тексте встречались имена людей и адреса электронной почты, а иногда и другие данные, по которым можно установить личность.

Представитель Anthropic Гэбби Кертис заявил Forbes, что страницы стали видны в поиске только потому, что сами пользователи размещали ссылки на переписку в интернете или социальных сетях. По его словам, компания не публикует каталоги таких страниц и не передает их поисковым системам, а также прямо запрещает их обход в служебных настройках сайта.

При этом один из пользователей, чья рабочая переписка с ботом оказалась доступна через поиск, сообщил журналистам, что он нигде не публиковал ссылку на этот диалог. Он попросил не раскрывать его имя из-за служебных ограничений.

В Google ответили, что поисковые системы не решают, какие страницы делать публичными. Это определяют владельцы сайтов. Если страница доступна в сети и не закрыта техническими ограничениями, она может попасть в индекс. В начале недели ссылки на диалоги Claude исчезли из поисковой выдачи.

Подобные утечки уже происходили ранее. Летом пользователи обнаружили, что многие «поделенные» диалоги ChatGPT стали доступны через поиск, после чего разработчик принес извинения. Позже были найдены сотни тысяч доступных переписок с ботом Grok. Среди них находились крайне чувствительные материалы, включая инструкции по созданию наркотиков и взрывных устройств. После инцидента разработчик ChatGPT вообще отключил функцию публичного обмена диалогами, признав её неудачным экспериментом.

В Anthropic подчеркнули, что даже в открытых диалогах файлы, загруженные пользователями, оставались закрытыми. Однако ответы бота иногда содержали цитаты из этих документов, и они отображались на странице переписки.

Ситуация выглядит особенно примечательно на фоне претензий к самой Anthropic из-за сбора данных в сети. Владельцы сайтов ранее жаловались на агрессивную работу её поисковых роботов и игнорирование служебных запретов на обход. Социальная сеть Reddit даже подала иск против компании. Кроме того, недавно разработчик заключил соглашение на 1,5 млрд долларов по делу авторов книг, которые обвинили его в незаконном использовании текстов для обучения моделей.

Недавно компания также обновила правила конфиденциальности. Теперь переписка с Claude может использоваться для обучения систем искусственного интеллекта, если пользователь заранее не отказался от этого в настройках.