Штурм, наручники и 10 часов в камере. Инженера арестовали из-за ошибки нейросети

В Великобритании очередной спор вокруг технологий распознавания лиц перешёл в плоскость судебных претензий. Поводом стала история 26-летнего инженера-программиста Элви Чоудхури, которого полиция задержала по подозрению в краже со взломом в городе, где он никогда не бывал.

В январе сотрудники полиции пришли в дом семьи Чоудхури в Саутгемптоне, надели на него наручники и доставили в участок. Мужчину продержали под стражей почти десять часов и отпустили лишь около двух часов ночи. Поводом стал результат автоматизированной системы распознавания лиц, которую применяет полиция долины Темзы. Алгоритм сопоставил его фотографию с кадрами видеонаблюдения по делу о краже на сумму 3000 фунтов в Милтон-Кинсе — примерно в 160 километрах от его дома.

По словам Чоудхури, на записи был заметно более молодой человек без бороды и с иными чертами лица. Он утверждает, что разница во внешности очевидна, однако это не помешало задержанию. В полиции долины Темзы заявили, что решение приняли после визуальной оценки сотрудником, а совпадение алгоритма рассматривали лишь как ориентир. При этом ведомство признало, что ошибка могла быть связана с предвзятостью технологии, но подчеркнуло, что арест не был незаконным и не являлся следствием расового профилирования.

Британские правоохранительные органы используют алгоритм немецкой компании Cognitec, закупленный Министерством внутренних дел. Система ежемесячно проводит около 25 тысяч поисков по базе из 19 миллионов полицейских фотографий. Согласно исследованию, заказанному тем же министерством, при определённых настройках доля ложных совпадений для темнокожих составляет 5,5 процента, для азиатских лиц — 4 процента, тогда как для белых — 0,04 процента. Комиссары по вопросам полиции и преступности ранее называли такие показатели тревожными и указывали на встроенную предвзятость. Подробнее о том, как работают подобные системы биометрии, рассказывает материал на SecurityLab.

С декабря полиция долины Темзы также применяет технологию распознавания лиц в реальном времени в Оксфорде, Слау, Рединге, Уикоме и Милтон-Кинсе. За это время было охвачено видеонаблюдением около 100 тысяч человек, что привело к шести задержаниям.

Фотография Чоудхури оказалась в базе данных из-за предыдущего инцидента в 2021 году, когда его ошибочно задержали после нападения на него во время учёбы в Портсмуте. Тогда дело закрыли без предъявления обвинений. Теперь мужчина опасается, что новое фото увеличит риск повторных ошибок. Он подал иск о возмещении ущерба к полиции долины Темзы и полиции Хэмпшира, сотрудники которой исполнили задержание. Среди последствий он называет стресс семьи, внимание соседей и невозможность выйти на работу на следующий день. Хранение изображений в базах данных правоохранителей напрямую касается защиты персональных данных — теме, которая становится всё более острой в свете новых законодательных требований.

В декабре 2024 года комиссар по биометрии и камерам наблюдения Уильям Уэбстер выражал обеспокоенность тем, что полиция продолжает хранить изображения людей, которым так и не предъявили обвинения. В прошлом месяце полиция Южного Уэльса выплатила компенсацию мужчине, которого также ошибочно задержали после срабатывания системы распознавания лиц.

Министерство внутренних дел сообщило, что руководство и обучение по снижению числа ошибок пересматривают, а новая национальная система сопоставления лиц находится в разработке и будет использовать улучшенный алгоритм, прошедший независимые испытания.