Разговор с ИИ оказался не таким приватным, как личный дневник. Во Флориде женщину арестовали после того, как система безопасности Anthropic обнаружила в её переписке с Claude угрозу нападения на офис шерифа, передала диалог на ручную проверку, а сотрудники компании сообщили о содержании правоохранителям.
Арестный отчёт, который изучил WINK News, связывает дело с двумя сообщениями. 26 сентября пользовательница написала о намерении устроить стрельбу в офисе шерифа округа Ли, а на следующий день заявила, что у неё появилось новое оружие. Следствие считает, что тяжесть формулировок стала причиной эскалации разговора внутри Anthropic.
По версии следствия, автоматические механизмы платформы отслеживают ключевые фразы и потенциально опасный контент. После срабатывания защиты переписку изучила команда людей и решила обратиться в полицию. Сам Claude не отправлял заявление самостоятельно, поэтому в деле сработала связка автоматического обнаружения и человеческой проверки.
Сотрудники офиса шерифа установили личность 30-летней Карли Мишель Хеллер и задержали её дома без инцидентов. Шериф Кармайн Марсено рассказал, что Хеллер называла ИИ своим «дневником». Женщине предъявили обвинение в письменной угрозе насилием. Статья 836.10 законов Флориды охватывает электронные записи с угрозами массовой стрельбы и относит нарушение к тяжким преступлениям второй степени.
Случай показывает практическую границу приватности чат-ботов. Anthropic указывает, что может передать сведения без обычного юридического запроса, если считает ситуацию экстренной и раскрытие способно предотвратить неминуемый физический вред или смерть. Публичные правила прямо предусматривают такой сценарий, поэтому разговор с Claude нельзя считать записью, доступной только владельцу аккаунта.
Похожий случай произошёл в сентябре с ChatGPT, когда OpenAI передала сведения властям после обнаружения угрозы ребёнку. Тогда переписка тоже вышла за пределы обычного взаимодействия с чат-ботом и стала частью полицейской проверки. Истории различаются обстоятельствами, но обе показывают, что сообщения в ИИ-сервисах могут попасть к людям и правоохранителям.
Вина Хеллер пока не установлена судом. По данным WINK News, дата явки в суд назначена на ноябрь. Anthropic публично не раскрыла внутренние критерии, по которым конкретный разговор перешёл от автоматического фильтра к человеку и затем к правоохранителям. Поэтому точный порог, после которого переписка пользователя превращается в экстренное сообщение, остаётся неизвестным. Исход дела пока неизвестен.