Microsoft ограничит использование системы распознавания лиц

Microsoft ограничит использование системы распознавания лиц

Так компания борется с дискриминацией с помощью ИИ

image

21 июня Windows опубликовала документ под названием «Стандарт ответственного ИИ» , в котором пообещала свести к минимуму любой вред, наносимый ее ПО для машинного обучения. Компания пообещала, что обеспечит соблюдение более строгих правил использования ПО.

Microsoft ограничит доступ к инструментам ИИ и моделям распознавания лиц для прогнозирования эмоций, пола и возраста по изображениям. С 21 июня новым клиентам необходимо подать заявку для доступа к использованию системы распознавания лиц в интерфейсах Azure Face, Computer Vision и Video Indexer, а существующим пользователям необходимо в течение года подать заявку и получить разрешение на постоянный доступ к платформам.

С 30 июня 2023 года клиенты не смогут получить доступ к функциям распознавания лиц, если их заявка не будет одобрена. По словам специалистов Microsoft, ограничение доступа добавит дополнительный уровень контроля за службами распознавания лиц.

Microsoft также с 21 июня прекратит возможность анализа лица для определения эмоциональных состояний и деталей лица (пол, возраст, улыбка, растительность на лице и макияж). С помощью этой функции легче создавать стереотипы и дискриминировать личность.

Microsoft продолжит предоставлять доступ к некоторым из технологий посредством интеграции в определенные службы для людей с ограниченными возможностями (например, приложение Seeing AI ). Microsoft порекомендовала клиентам использовать open-source проект Fairlearn и панель Microsoft Fairness Dashboard , чтобы понять работу Azure Cognitive Services .


Один хакер может причинить столько же вреда, сколько 10 000 солдат! Подпишись на наш Телеграм канал, чтобы узнать первым, как выжить в цифровом кошмаре!