SynthID против фейков: обновленная система цифровых меток не даст ИИ обмануть вас

На прошедшей конференции Google I/O для разработчиков глава компании DeepMind, Демис Хассабис, представил множество новых инструментов на базе искусственного интеллекта, в том числе генератор видео Veo, обновления для поисковой системы и прокачанную модель Gemini . Однако особый акцент был сделан на обновленной системе цифровой маркировки SynthID, которая теперь способна распознавать и маркировать аудио, видео и текстовые материалы, созданные с применением ИИ-технологий.

Необходимость отслеживать подобные материалы становится все более острой по мере развития генеративного ИИ, особенно в случаях его злонамеренного использования. Уже есть много примеров применения нейросетей для распространения дипфейков, в том числе политической дезинформации и сексуализированного контента.

Систему SynthID анонсировали в августе прошлого года как инструмент, с помощью которого можно внедрять в изображения невидимые человеческому глазу водные знаки, распознаваемые специальными алгоритмами. Этот подход отличается от других предлагаемых стандартов цифровой маркировки, таких как C2PA, который предусматривает использование криптографических метаданных.

Осенью 2023 года Google также интегрировала в SynthID функцию цифровой маркировки аудиоконтента — она позволяет встраивать неслышимые метки в музыкальные композиции, созданные с помощью модели Lyria от DeepMind. SynthID является одной из нескольких разрабатываемых мер по обеспечению безопасности ИИ-технологий и предотвращению их злоупотребления. Даже администрация президента Байдена недавно поручила федеральным ведомствам выработать руководящие принципы в этой области.