Вы только прошептали, а ИИ уже доносит прокурору. Тюремный «Большой Брат» наказывает за планы, а не за факты

Американская телеком-компания Securus Technologies обучила новую модель ИИ на многолетних записях телефонных и видеозвонков заключённых и уже тестирует её для автоматического поиска готовящихся преступлений в их звонках, переписке и электронных письмах. Система в реальном времени анализирует разговоры и пытается заметить момент, когда преступление только обдумывается, чтобы предупредить его ещё на стадии замысла.

Президент Securus Кевин Элдер в разговоре с MIT Technology Review рассказал, что разработка инструментов на базе ИИ началась в 2023 году. В качестве обучающего датасета компания использовала собственный огромный архив записей: для одной из моделей взяли семь лет телефонных звонков заключённых из тюрем штата Техас. Параллельно Securus строит отдельные модели под конкретные штаты и округа, чтобы учитывать особенности местных сленгов и контекста.

По словам Элдера, в течение последнего года компания в пилотном режиме применяет эти инструменты для онлайн-мониторинга разговоров в учреждениях, где установлены её системы связи. Речь идёт как о тюрьмах, где люди уже отбывают сроки, так и о следственных изоляторах, где содержатся ожидающие суда. Часть таких учреждений по контракту с Иммиграционно-таможенной службой США (ICE) удерживает и мигрантов, хотя сама Securus напрямую с ICE не работает.

Компания описывает новый продукт как большую языковую модель, которую можно «направить на целый кладезь данных», чтобы выявлять и понимать, когда обсуждается возможное преступление — ещё до того, как оно переходит в конкретные действия. На практике это выглядит так: администрация тюрьмы или следственного изолятора может включить мониторинг случайно выбранных разговоров или разговоров людей, которые уже находятся под подозрением у оперативников.

Алгоритм анализирует телефонные и видеозвонки, текстовые сообщения и электронную почту. Подозрительные фрагменты он помечает для ручной проверки. Специальные операторы прослушивают или читают отмеченные места и, если сочтут нужным, передают информацию следователям или службе безопасности учреждения.

Элдер утверждает, что в прошлом технологии Securus уже помогали пресекать торговлю людьми и деятельность тюремных банд, а также выявлять сотрудников тюрем, которые проносили внутрь запрещённые предметы. Однако компания не привела ни одного конкретного примера дела, раскрытого именно с помощью новых моделей искусственного интеллекта.

Формально люди в тюрьмах и их собеседники предупреждены, что все звонки записываются. Но это не значит, что заключённые понимают: эти записи могут использоваться для обучения нейросетей, подчёркивает Бьянка Тайлек, исполнительный директор правозащитной организации Worth Rises. Она называет происходящее «принудительным согласием»: для большинства заключённых телефон — единственный канал связи с семьёй, отказаться от него физически невозможно. При этом в подавляющем большинстве штатов заключённые ещё и платят за каждый звонок, отмечает Тайлек: фактически их не только не компенсируют за использование их персональных данных, а напротив, взимают с них плату, пока эти данные собирают и анализируют.

В Securus утверждают, что цель использования этих массивов — не слежка за конкретными людьми, а поиск «общих паттернов, аномалий и противоправного поведения» в общей системе коммуникаций. Представитель компании также подчеркнул, что политику записи и контроля разговоров устанавливают сами исправительные учреждения, а Securus лишь следует этим правилам. Прямого ответа на вопрос, могут ли заключённые отказаться от использования их записей для обучения ИИ, компания не дала.

Критики напоминают, что у Securus уже был проблемный опыт с правами заключённых. Ранее утечки из её базы показали, что компания незаконно записывала тысячи защищённых законом разговоров заключённых с их адвокатами. Корин Кендрик, заместитель директора Тюремного проекта Американского союза гражданских свобод (ACLU), считает, что новая система на базе ИИ лишь усиливает и без того чрезмерную слежку, тогда как суды пока почти не установили для неё понятных ограничений. По её словам, возникает риск построить систему, где «каждое слово и каждая мысль заключённых» окажутся под постоянным надзором, а технологии далеко обогнали правовое регулирование.

В ответ на эти претензии Securus настаивает, что главная задача инструмента — не тотальная слежка без повода, а повышение эффективности уже существующего мониторинга в условиях нехватки персонала.

Отдельный вопрос — как будет финансироваться такая система слежки. Здесь Securus неожиданно помогли регуляторы. В 2024 году Федеральная комиссия по связи США (FCC) приняла реформу, которую приветствовали правозащитники: тюремным операторам запретили перекладывать расходы на запись и мониторинг звонков на самих заключённых. Компании по-прежнему могли брать с них плату за звонки, но по ограниченному тарифу, а расходы на безопасность должны были покрываться из бюджетов тюрем и следственных изоляторов.

Реакция многих тюремных администраторов и шерифов оказалась резко негативной: они заявляли, что не смогут обеспечить «должный контроль» звонков, а некоторые учреждения даже грозили сократить доступ к телефону. Генеральные прокуроры 14 штатов подали в суд, оспаривая реформу.

Параллельно Securus активно лоббировала пересмотр новых правил: представители компании встречались с FCC и добивались права снова использовать деньги, собранные с заключённых, для оплаты систем безопасности и ИИ-мониторинга.

В июне член комиссии Брендан Карр, назначенный на должность при Дональде Трампе, объявил, что сроки исполнения реформы будут отложены. В заявлении он фактически поддержал идею финансировать «инновационные инструменты общественной безопасности, включая ИИ и машинное обучение», за счёт средств, которые платят заключённые.

28 октября FCC сделала ещё один шаг назад: комиссия проголосовала за новые, более высокие тарифные потолки и разрешила компаниям вроде Securus включать в стоимость звонков расходы на запись, хранение и расшифровку разговоров, а также на создание и работу ИИ-систем, анализирующих эти данные. Представитель Securus заявил, что компания стремится «сочетать доступность услуг с необходимостью финансировать ключевые инструменты безопасности» и что продвинутый мониторинг и ИИ «критически важны» для защиты заключённых, персонала и общества.

Не все в руководстве FCC согласны с таким подходом. Комиссар Анна Гомес проголосовала против и заявила, что расходы на безопасность и слежку должны нести правоохранительные органы, а не семьи заключённых. Окончательные правила пока не вступили в силу: комиссия ещё собирает комментарии общественности. Но уже сейчас ясно, что будущее тюремной связи в США всё теснее связано с массовой аналитикой разговоров и предиктивным ИИ — и платить за это, похоже, опять придётся тем, кто меньше всего может повлиять на правила игры.