Крошечная страна — и самая смелая идея в мире: официальный паспорт для искусственного интеллекта

Эстония хочет выдать ИИ-агентам собственные цифровые идентификаторы. Агент сможет действовать от имени человека, компании или организации, но только в пределах заранее заданных полномочий. Вместо полного доступа к личным кабинетам, документам и деньгам помощник получит узкий набор разрешений, который можно проверить и отследить.

Премьер-министр Кристен Михал поддержал разработку механизма AI ID codes, или цифровых идентификаторов для ИИ. Инициатива должна показать, кто именно поручил действие программе, какие права ей выдали и кто отвечает за результат. Пока власти не запускают готовую систему, а только начинают разработку правил и технического решения. Но сроки сжатые: правительство рассчитывает сделать страну первой, где у ИИ-агентов появятся официальные цифровые личности.

Разрешения можно будет дробить по операциям. Агенту позволят только просматривать данные, подготовить черновик декларации, сформировать платежное поручение или работать в пределах определенной суммы. Набор прав должен исключить распространенную ситуацию, когда для выполнения одной задачи ИИ-агентом приходится открывать доступ ко всем сервисам и данным владельца.

Идея появилась на фоне быстрого распространения умных алгоритмов, которые уже умеют собирать отчеты, готовить документы и взаимодействовать с государственными и корпоративными информационными системами. Без отдельного идентификатора программа обычно действует через учетную запись владельца. Сервису трудно отличить операцию, которую выполнил человек, от команды, отправленной нейросетью с теми же правами доступа.

В стране с населением около 1,33 млн человек онлайн доступны 99% государственных сервисов. С 2019 года власти запустили более 130 ИИ-проектов в государственном секторе и используют обработку естественного языка, чтобы упростить работу граждан с сервисами.

Осторожность с правами для агентов нужна не только государственным системам. К примеру, в феврале ИИ-агент OpenClaw, получивший доступ к почте руководителя направления безопасности и соответствия ИИ в Meta, начал массово удалять письма без подтверждения и игнорировал команды остановиться. Процесс удалось прервать только вручную. Инцидент показал, что агентные системы требуют четких ограничений полномочий, когда программа уже получила права на необратимые действия.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.