Сказки о безопасности: Ошибочное задержание

Сказки о безопасности: Ошибочное задержание

Лето… Жара… А тут еще карантин. Боб уже не раз думал, что худшего не может быть… Оказалось, очень даже может. Носить маску в такую жару — это не просто ужасно. Через час потеет все лицо и потом покрывается сама маска. Как люди ходят в них на улице — непонятно совсем.

— Боб, ты видел результаты системы распознавания лиц, внедренной в аэропорту и на вокзале?

— Да. Мы за два дня сумели поймать больше разыскиваемых, чем за три года перед этим.

— Знаешь, что губернатор приказал еще два месяца назад внедрить ее во всех крупных населенных пунктах и на всех вокзалах?

— Конечно!

— Представь, насколько работать станет легче!

— Не думаю!

— Почему?

— Потому что в результате полицейские могут просто разучиться думать! Они будут верить в то, что камеры не ошибаются. А ведь это просто еще один фактор поиска, и не более!

— Согласен, но удобно же.

— Эй вы, хватит болтать! Кажется, полицейские задержали для проверки некоего Роберта В. Система распознавания лиц определила в нём преступника, который два года назад совершил магазинную кражу. Его доставили в участок.

— А еще какие-то улики есть?

— Нет! Но его ведь опознали?

— Боб, кажется, это то, о чем мы только что говорили. Его арестовали?

— Да! Ну а как же? Его ж опознали. Его пока задержали на 48 часов, и наша задача понять, он или не он совершил кражу.

— Для начала нужно проверить, а был ли он вообще в тот момент в городе, может у него алиби?

— Боб, я не понимаю, ты что, адвокат?

— Нет, конечно! Но я не хочу осудить невиновного, так как прекрасно понимаю, что в любом программном продукте может быть ошибка. И не одна. Давай проверим еще раз, где он находился.

Прошло четыре часа.

— Боб, увы, ты оказался прав. Он в момент ограбления был не только в другом городе, а даже в другом штате. Вот документ. Он был оштрафован полицейским патрулем за превышение скорости. Так что он невиновен.

— Нужно выпускать и извиниться.

— Да.

Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания.

Примечательно, что ПО для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса, вывело следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».

Этот случай создал прецедент, который указывает на гораздо более обширную проблему — всецело доверять алгоритмам искусственного интеллекта пока нельзя.

Alt text
Комментарии для сайта Cackle

Владимир Безмалый

О безопасности и не только