Дипфейки: что это такое, как создаются и как распознать подделку

Видео с известным человеком, который говорит странные вещи. Голос начальника в мессенджере, срочно требующий перевести деньги. Фото события, которого не было. Такие материалы уже не всегда похожи на грубую поделку. Генеративные модели научились собирать лица, голоса, мимику и движения достаточно убедительно, чтобы человек без контекста мог ошибиться.

Дипфейк - это поддельное или сильно измененное изображение, видео либо аудио, созданное с помощью нейросетей. Слово произошло от deep learning, то есть глубокого обучения, и fake, то есть подделки. По-русски чаще используют слово дипфейк, и оно уже нормально звучит в новостях, расследованиях и разговорах про мошенничество.

Дипфейк не всегда означает преступление. Технологию используют в кино, рекламе, локализации видео, обучающих роликах, играх и сервисах для аватаров. Проблема начинается там, где зрителю выдают сгенерированный или измененный материал за реальную запись: политическое заявление, компромат, голосовое сообщение от родственника, звонок от директора или видео с места происшествия.

Старый совет посмотреть на руки и глаза уже работает хуже. Модели лучше рисуют лица, синхронизируют губы с речью, сохраняют освещение и делают голос похожим на оригинал. Поэтому проверка держится не на одном признаке, а на связке: источник, контекст, метаданные, поведение аккаунта, качество файла, следы монтажа и независимые подтверждения.

Какие бывают дипфейки

Дипфейки бывают не только видео с подмененным лицом. Подделать можно фото, голос, движение губ, мимику, жесты и целую сцену. Для обычного пользователя разница важна потому, что у каждого типа подделки свои признаки и способы проверки.

Синтетические аватары предлагают HeyGen, Synthesia и D-ID. В нормальном использовании такие сервисы помогают делать обучающие ролики, презентации и локализацию. В мошенничестве похожая механика превращается в фальшивое обращение от имени другого человека.

Голосовые дипфейки развиваются отдельно. ElevenLabs и похожие сервисы умеют генерировать речь и клонировать голос. Для атаки иногда хватает короткого голосового сообщения: похожий тембр, срочная просьба и легенда про проблему с деньгами, документами или доступом.

Как создаются дипфейки

Любая такая подделка начинается с исходных данных. Для лица нужны фотографии или видео человека под разными углами. Для голоса нужны аудиозаписи. Для движения губ нужна связь между звуком и мимикой. Чем больше качественных материалов есть у модели, тем проще ей повторить внешность, тембр и привычные движения.

• Модель изучает форму лица, мимику, поворот головы, освещение, кожу, темп речи, паузы и интонацию.
• При замене лица нейросеть переносит лицо на другое видео и подгоняет его под движение головы.
• При синхронизации губ модель меняет артикуляцию так, чтобы рот совпадал с новой речью.
• При клонировании голоса текст превращается в аудио, похожее на речь конкретного человека.
• При генерации сцены модель создает кадр или ролик по текстовому описанию, изображению или референсам.

В видео приходится решать сразу несколько задач. Лицо должно совпасть с поворотом головы, светом, разрешением и движением камеры. Губы должны попадать в речь. Тени не должны прыгать. Кожа не должна выглядеть как маска. Если все сделано плохо, зритель замечает странности. Если сделано хорошо, подделку приходится проверять уже не глазами, а по контексту и техническим признакам.

Полностью сгенерированное видео работает иначе. Модель собирает сцену из вероятных визуальных элементов. Она не понимает мир как человек, поэтому иногда ошибается в причинно-следственных связях: предметы меняют форму, руки неправильно взаимодействуют с объектами, отражения не совпадают, а люди двигаются слишком гладко или слишком странно. Runway и похожие платформы развивают генерацию и редактирование видео, поэтому таких материалов становится больше.

Зачем дипфейки используют мошенники

Мошенникам не нужен идеальный результат. Им достаточно убедить человека на несколько минут. Особенно если сообщение приходит в стрессовой ситуации: срочный перевод, закрытая сделка, просьба помочь родственнику, корпоративное поручение, звонок якобы из банка или видео с громким заявлением.

Голосовые дипфейки особенно опасны для компаний. Руководители часто выступают на конференциях, дают интервью и записывают вебинары, а этих материалов хватает для имитации голоса. Если платежи и выдача доступов подтверждаются устной просьбой, мошеннику остается хорошо сыграть срочность.

В бытовых историях дипфейки используют для шантажа, травли, фальшивых доказательств, подставных знакомств и выманивания денег у родственников. Здесь важна не техническая идеальность, а скорость. Ролик или голосовое успевают разойтись раньше, чем появится опровержение.

Как распознать подделку по видео и фото

Начинать лучше не с лица, а с источника. Кто опубликовал материал? Есть ли оригинал? Когда создан аккаунт? Публиковал ли он раньше похожий контент? Есть ли то же видео на официальной странице человека, компании, ведомства или СМИ? Если громкое заявление существует только в одном канале без первоисточника, доверять ему рано.

• Проверьте первоисточник: официальный сайт, страницу человека, компанию, ведомство, крупные СМИ.
• Сравните лицо, голос и манеру речи с более ранними записями того же человека.
• Посмотрите на границы лица, волосы, очки, зубы, шею, тени и отражения.
• Проверьте дату публикации, место, погоду, вывески, номера машин и детали фона.
• Сделайте обратный поиск по кадру через поисковые системы или сервисы поиска изображений.
• Не пересылайте громкий ролик сразу, если он вызывает сильную эмоцию и требует срочного действия.

У поддельных видео часто бывают проблемы на границах лица: линия подбородка, волосы, уши, очки, зубы, шея. Иногда лицо выглядит более гладким, чем остальная кожа, а текстура не совпадает с освещением. У полностью сгенерированных кадров слабые места часто прячутся в деталях: надписи искажены, логотипы плывут, отражения не соответствуют объектам, руки неверно держат предметы, фон меняется от кадра к кадру.

Речь и губы тоже дают подсказки. Если человек произносит сложные звуки, а губы двигаются слишком обобщенно, синхронизация может быть искусственной. Но полагаться только на губы нельзя: современные сервисы уже хорошо подгоняют артикуляцию.

Как распознать поддельный голос

С голосом сложнее, потому что слух быстро достраивает картину. Если человек ожидает услышать знакомого, похожий тембр уже кажется доказательством. Особенно в коротких голосовых сообщениях, где мало пауз, эмоций и обычных речевых привычек.

Поддельный голос может звучать слишком ровно, без естественных запинок, дыхания и микропауз. Иногда плохо передаются эмоции: фраза тревожная, а интонация почти нейтральная. В других случаях слышны цифровые артефакты, странные окончания слов, плавающая громкость или одинаковый ритм.

• При просьбе о деньгах, коде или документах не отвечайте в том же чате.
• Перезвоните по номеру из своей адресной книги.
• Напишите человеку в другом мессенджере или корпоративном канале.
• Задайте личный вопрос, ответ на который нельзя взять из соцсетей.
• Для рабочих платежей используйте регламент, а не голосовое подтверждение.

Инструменты проверки и их ограничения

Технические детекторы анализируют изображение, видео или звук и выдают вероятность подделки. Они ищут следы генерации, несоответствия в пикселях, артефакты кодирования, особенности лица, движения, голоса и спектра аудио. Такие инструменты полезны, но не дают окончательного приговора.

Есть и другой подход: не ловить подделку после публикации, а заранее отмечать происхождение контента. Google SynthID встраивает незаметные водяные знаки в ИИ-контент. C2PA и Content Credentials работают с происхождением и историей изменений файла. Такой след помогает проверить источник, но только если метаданные сохранились и поддерживаются платформой.

Главное ограничение всех детекторов - гонка с генераторами. Новые модели учатся обходить старые признаки, а соцсети пережимают видео и стирают часть технических данных. Поэтому хороший вывод строится из нескольких проверок: источник, контекст, обратный поиск, технический анализ, метаданные и подтверждение через независимый канал.

Что делать, если прислали подозрительное видео или голосовое

Дипфейки часто работают через срочность: переведи сейчас, никому не говори, времени нет, решение нужно за пять минут. Такая подача нужна, чтобы человек не успел проверить информацию.

1. Не выполняйте срочную просьбу из голосового или видео без проверки.
2. Свяжитесь с человеком через другой канал связи.
3. Проверьте первоисточник и ранние публикации того же материала.
4. Сохраните ссылку, файл, скриншоты, дату и имя аккаунта.
5. Пожалуйтесь на платформу, если материал выдают за реальный или используют для мошенничества.
6. Для компании передайте файл и ссылку в службу безопасности или ИТ-отдел.

Если речь о мошенничестве, шантаже, поддельной рекламе или вреде для репутации, важно сохранить доказательства до удаления публикации. Не пересылайте ролик как факт. Лучше отправить ссылку ответственным людям с пометкой, что материал требует проверки.

Как защитить себя и компанию

Для личной безопасности важны простые правила: не публиковать без необходимости длинные чистые записи голоса, не выкладывать документы и рабочие пропуска, закрыть лишние личные данные в соцсетях, не доверять срочным просьбам о деньгах и кодах только потому, что голос похож на знакомого.

• Включите двухфакторную аутентификацию для почты, мессенджеров, соцсетей и рабочих аккаунтов.
• Проверяйте просьбы о деньгах и доступах через независимый канал.
• Не используйте голосовое сообщение как единственное подтверждение платежа.
• Для сотрудников проводите короткие тренировки на примерах голосовых и видео-подделок.
• Внедрите правило второго подтверждения для платежей, смены реквизитов и выдачи доступов.
• Для семьи договоритесь: если просят деньги, нужен звонок или проверочный вопрос.