Глаза не лгут: астрономы нашли новый способ распознавания ИИ-дипфейков

Астрономы из Университета Халла разработали новый метод для выявления изображений, сгенерированных ИИ, путём анализа отражений в глазах. Исследование было представлено на Национальной астрономической конференции Королевского астрономического общества.

Новая техника была адаптирована из инструментов, которые астрономы обычно используют для изучения галактик, позволяя выявлять несоответствия в отражениях света в глазах. Глава исследования, магистрантка Адежумоке Оволаби, работала под руководством профессора астрофизики Кевина Пимблетта.

Принцип метода прост: пара глаз, освещаемая одним и тем же источником света, обычно имеет одинаковые отражения в обоих глазах. Однако многие генеративные системы часто не соблюдают этого правила при создании изображений, что приводит к различиям в отражениях.

Пимблетт пояснил, что разработанная техника позволяет автоматически обнаруживать отражения в глазах и сравнивать их морфологические характеристики между левым и правым глазом. В результате оказалось, что дипфейки и прочие ИИ-генерации часто демонстрируют существенные различия в отражениях.

Команда использовала методы из астрономии для количественной оценки отражений в глазах, включая коэффициент Джини, который обычно используется для измерения распределения света в изображениях галактик. Значение коэффициента ближе к 0 указывает на равномерное распределение света, тогда как значение ближе к 1 говорит о сконцентрированном свете в одном пикселе.

Пимблетт отметил, что исследование отражений глаз действительно схоже с измерением форм галактик. Исследователи даже попытались применить параметры CAS (концентрация, асимметрия, гладкость), используемые для измерения распределения света в галактиках, но этот метод оказался менее эффективным для выявления ИИ-генераций.

Хотя метод анализа отражений в глазах показывает перспективы, он может быть менее эффективным, если ИИ-модели начнут учитывать физически корректные отражения. Кроме того, метод требует чёткого крупного плана глаз для работы. Подход также может давать ложные срабатывания, так как даже на настоящих фотографиях иногда наблюдаются несоответствия в отражениях из-за различных условий освещения или постобработки.

Тем не менее, анализ отражений глаз может стать полезным инструментом в арсенале средств для обнаружения глубоких подделок, наряду с анализом текстуры волос, анатомии, деталей кожи и консистенции фона. Пимблетт подчеркнул, что метод не является идеальным, но отметил, что он предоставляет основу для создания мощной комплексной системы выявления цифровых подделок.