ИИ от Facebook позволяет обмануть системы распознавания лиц

Специалисты в области искусственного интеллекта из компании Facebook разработали систему для «деидентификации» пользователей в режиме реального времени. По результатам раннего тестирования, ИИ способен обойти современные системы распознавания лиц. Разработанный метод слегка искажает лицо человека таким образом, чтобы сбить с толку системы распознавания лиц, позволяя при этом другим пользователям узнать человека.

«Распознавание лиц может привести к потере конфиденциальности, а данная технология замены лиц может быть использована для создания вводящих в заблуждение видео. Недавние события, связанные с прогрессом и злоупотреблением технологией распознавания лиц, вызывают необходимость понимания методов, которые успешно справляются с деидентификацией», — сообщается в документе, описывающем технологию.

Подход Facebook объединяет в себе состязательный автокодировщик и сеть классификаторов. По аналогии с ПО по замене лиц Deepfake, ИИ использует архитектуру кодировщика-декодировщика для генерации как маски, так и изображения. Система генерирует искаженные и неискаженные изображения лица человека, которые можно встроить в видео.

В настоящее время Facebook не планирует применять данную технологию в каких-либо своих приложениях. Компания намерена представить медот ​​на Международной конференции по компьютерному зрению (International Conference on Computer Vision), проходящей в Сеуле (Южная Корея).