Бесконтрольный ИИ: кто контролирует машины, решающие судьбы британцев

Британские власти активно внедряют искусственный интеллект (ИИ) и сложные алгоритмы для принятия решений в различных сферах от социальных выплат до регистрации браков, сообщает издание The Guardian. Исследование газеты показало, что такие технологии применяются в минимум восьми отделах британского правительства и нескольких полицейских участках, особенно в сферах социального обеспечения, иммиграции и уголовного правосудия.

К примеру, алгоритм, используемый в Министерстве труда и пенсий (Department for Work and Pensions, DWP), по ошибке привёл к лишению десятков людей социальных выплат. Также были выявлены случаи дискриминации при применении технологий распознавания лиц и определения фиктивных браков.

Премьер-министр Великобритании Риши Сунак высоко оценил потенциал ИИ для трансформации государственных служб, от экономии времени учителями на планирование уроков до ускорения диагностики в отрасли здравоохранения. Однако, эксперты выразили беспокойство по поводу возможности повторения скандала в Нидерландах, где использование ИИ налоговыми органами для выявления мошенничества с пособиями на детей привело к штрафу в размере €3.7 миллионов и неправомерному отказу в пособии действительно нуждающимся семьям.

Эксперты также высказали опасения относительно отмены независимого совета по вопросам этики в области данных, который контролировал применение ИИ в госсекторе. Представитель Public Law Project отметил о необходимости внедрить срочные меры, чтобы предотвратить «непрозрачное» использование автоматизированных систем, которое может привести к серьезным последствиям для граждан.

На следующей неделе Сунак соберет глав государств на международном саммите по безопасности ИИ в Bletchley Park, который, как ожидается, установит основные принципы разработки ИИ на глобальном уровне в ближайшие годы.

Несмотря на запуск стандарта отчетности по прозрачности алгоритмов Кабинета министров, всего 6 организаций раскрыли информацию о своих проектах в этой области. The Guardian продолжает исследование, направив запросы на предоставление информации во все госдепартаменты и полицейские учреждения Великобритании для получения полной картины применения ИИ в общественной жизни.