ИИ решил, что вы преступник. Полиция сначала арестует, а потом разберётся

leer en español

3822
ИИ решил, что вы преступник. Полиция сначала арестует, а потом разберётся

Проверка выявила тревожную закономерность, которую правоохранительная система долго не замечала.

image

Британские полицейские задержали мужчину после совпадения в системе распознавания лиц, а уже после доставки в другой участок выяснили, что на кадрах преступления изображён другой человек. Случай описали инспекторы HMICFRS в отчёте от 12 ноября. Перед объявлением подозреваемого в розыск следователи не проверили результат другими способами.

Проверка затронула полицию Англии и Уэльса, а также Национальное агентство по борьбе с преступностью. За год по 31 марта 2026 года полицейские провели 291 341 поиск лица. Национальная база PND содержит более 20 млн фотографий задержанных. Речь идёт о поиске по уже полученным снимкам с камер, телефонов и соцсетей, а не о сканировании прохожих в реальном времени.

Алгоритм выдаёт список похожих людей, но совпадение служит лишь поводом для дальнейшей проверки, а не доказательством личности. Отдельный опрос МВД Великобритании показал, что 34% из 779 сотрудников ошибались или сомневались в доказательной силе результата. Ещё 65% не помнили обучения за последний год. Выборка охватила 13% пользователей системы.

Последствия подобных ошибок уже выходили за пределы отчётов. В январе 2026 года в Саутгемптоне задержали программиста Элви Чоудхури, ошибочно связав фотографию с кражей в городе за 160 километров. Мужчина провёл под стражей почти десять часов. Полиция заявила, что сотрудники дополнительно сверяли снимки вручную, и отвергла обвинения в незаконном аресте.

Надзор оказался не менее проблемным. Семь подразделений не назначили аудиторов поисковых запросов, а 22 не представили отчёт или прислали неполные сведения. При проверках находили размытые фотографии и кадры с несколькими лицами. Контролёры чаще оценивали действия оператора базы, но не выясняли, какие решения следователь принимал после получения совпадения.

Испытания показали, что алгоритм PND при определённых настройках чаще ошибочно включал в результаты женщин, темнокожих и выходцев из Азии. Повышение порога снижало различия между группами, но мешало находить настоящие совпадения. После рекомендаций 2024 года полицейские меняли чувствительность поиска. Инспекторы не смогли доказать связь предвзятости с конкретными ошибочными задержаниями.

Полиция продолжала искать людей по снимкам, которые уже следовало удалить из PND. Лондонская полиция и подразделения Южного Уэльса также используют отдельные местные системы с другими базами. Новый национальный алгоритм прошёл испытания без значимых различий в точности между демографическими группами. Платформу протестировали в Чешире и Эссексе, общенационального запуска пока не было.

HMICFRS предложила 16 мер, включая обязательное обучение, аудит действий следователей и единые правила. МВД уже объявило о планах создать независимый орган надзора. Инспекторы рекомендуют принять кодекс ретроспективного распознавания лиц к 30 июня 2027 года, а обучение завершить до конца 2027 года. Новая платформа должна автоматически удалять снимки, если основания для хранения исчезли.

Рекламодатель
Реклама. АО «Позитив Текнолоджиз». ИНН 7718668887. 18+
Сайт рекламодателя: ptsecurity.com↗️
АО «Позитив Текнолоджиз»