Ваш диалог с ChatGPT теперь — улика. OpenAI впервые "сдала" пользователя властям

Федеральное ведомство внутренней безопасности США впервые потребовало от OpenAI раскрыть личность пользователя ChatGPT, чьи запросы фигурировали в расследовании по делу о детской порнографии. Ордер, выданный следователям Homeland Security Investigations (HSI) и опубликованный после рассекречивания в штате Мэн, стал первым известным случаем, когда власти официально обратились к разработчику генеративного ИИ с требованием выдать данные о конкретных промптах.

Расследование началось с попыток установить администратора крупного сайта в тёмном сегменте сети Tor, распространявшего CSAM-материалы. Агентам под прикрытием удалось вступить в контакт с предполагаемым администратором, который случайно упомянул, что пользуется ChatGPT. В ходе общения он рассказал, какие именно запросы вводил, включая безобидные темы вроде «Что произойдёт, если Шерлок Холмс встретится с Кью из "Звёздного пути"». В другой беседе он описал, как получил от модели стих в стиле Дональда Трампа о песне Y.M.C.A. из репертуара Village People и даже вставил его фрагмент в переписку.

Эти детали позволили следствию подать запрос в OpenAI, требуя сведения об аккаунте: имена и адреса, платёжную информацию, историю диалогов и метаданные, связанные с введёнными промптами. Позднее ведомство подтвердило, что компания передала агентам один Excel-файл, однако содержание документа не раскрывается. Неясно, помогли ли данные OpenAI напрямую в установлении личности подозреваемого, но ордер зафиксировал прецедент — использование промптов ChatGPT как основания для поиска пользователей.

Впрочем, определить фигуранта дела следователям удалось не за счёт данных OpenAI, а благодаря деталям, которыми он делился сам. Мужчина рассказывал о прохождении медосмотров, упоминал семилетнее проживание в Германии и службу отца в Афганистане. Эти сведения позволили агентам выйти на 36-летнего Дрю Хённера, связанного с авиабазой Рамштайн и подававшего документы на работу в Министерство обороны США. Ему предъявлено обвинение в сговоре с целью рекламы CSAM-материалов, однако признания вины он пока не дал.

По данным следствия, Хённер с 2019 года участвовал в управлении не менее чем 15 форумами в сети Tor, посвящёнными обмену запрещёнными материалами. Совокупная аудитория площадок превышала 300 000 пользователей. Структура сайтов напоминала иерархическую систему с администраторами, модераторами и «наградами» для наиболее активных участников. На одном из форумов существовал отдельный раздел, предположительно созданный для публикации контента, сгенерированного искусственным интеллектом.

Из отчёта OpenAI следует, что только за второе полугодие 2024 года она зафиксировала 31 500 случаев обнаружения контента, связанного с эксплуатацией детей, и передала соответствующие уведомления в Национальный центр пропавших и эксплуатируемых детей (NCMEC). За тот же период OpenAI получила 71 официальный запрос от государственных органов, в результате чего предоставила данные по 132 аккаунтам.