Microsoft запрещает спецслужбам использовать ИИ для распознавания лиц

Microsoft ужесточила правила использования своего сервиса Azure OpenAI Service, запретив полицейским департаментам США использовать генеративный ИИ для распознавания лиц. Изменения в условиях обслуживания, введённые в среду, теперь чётко запрещают использование Azure OpenAI Service для распознавания лиц полицией, включая интеграцию с текущими и возможно будущими моделями анализа изображений от OpenAI.

Новое условие также касается полиции во всём мире, особенно запрещая использование технологий распознавания лиц в режиме реального времени на мобильных камерах, таких как камеры на теле или на приборных панелях автомобилей, для идентификации людей в неконтролируемых условиях.

Это изменение произошло через неделю после того, как компания Axon, производитель технических и военных средств для правоохранительных органов, объявила о новом продукте, который использует модель генеративного текста GPT-4 от OpenAI для обобщения аудио с камер на теле. Критики указали на возможные проблемы, такие как создание недостоверной информации моделями и расовые предвзятости в данных обучения, что особенно тревожно, учитывая большую вероятность остановок полицией темнокожих по сравнению с белыми.

Неясно, использовал ли Axon GPT-4 через Azure OpenAI Service и были ли изменения условий службы реакцией на запуск продукта Axon. Ранее OpenAI уже ограничивал использование своих моделей для распознавания лиц через свои API.

Новые условия оставляют Microsoft определённый простор для манёвра. Полный запрет на использование Azure OpenAI Service касается только полиции США и не распространяется на распознавание лиц с помощью стационарных камер в контролируемых условиях, например, в офисе, хотя условия и запрещают любое использование технологий распознавания лиц полицией США.

Это согласуется с недавним подходом Microsoft и её близкого партнёра OpenAI к контрактам на правоприменение и оборону, связанным с ИИ. Ранее мы сообщали , что OpenAI работает с Пентагоном над рядом проектов, включая возможности кибербезопасности, что является отходом от ранней политики стартапа, запрещавшей предоставление своих ИИ военным.