Детектор сказал «не ИИ». Почему верить ему нельзя

Определять ИИ-картинку по пальцам, странным зубам и кривому тексту становится бессмысленно. Современные генераторы научились рисовать руки, имитировать фотографию и синтезировать голос достаточно хорошо, чтобы визуальная или слуховая проверка давала лишь повод для подозрений. Производители моделей поэтому постепенно переходят от попытки распознать результат постфактум к другому принципу. Система сама оставляет в созданном файле машиночитаемый признак происхождения.

В 2026 году процесс резко ускорился. С 2 августа в Евросоюзе начали действовать требования статьи 50 AI Act по прозрачности ИИ-контента. Поставщики генеративных систем должны обеспечивать машиночитаемую маркировку синтетических изображений, видео, аудио и текста с предусмотренными законом исключениями. На фоне новых правил Anthropic внедряет водяные знаки в Claude, Google расширяет SynthID, OpenAI запустила Verify, а собственные проверщики появились у Midjourney, Meta и ElevenLabs.

Но общей кнопки «проверить файл на любой ИИ» по-прежнему нет. OpenAI прежде всего узнаёт собственные сигналы, Gemini ищет SynthID от моделей Google, Claude ищет подпись Claude, Midjourney проверяет собственную метку. Даже использование одной технологии несколькими компаниями ещё не делает детекторы совместимыми. Google прямо предупреждает, что Gemini пока не распознаёт SynthID других производителей, хотя SynthID уже внедряют OpenAI, Apple, ElevenLabs, NVIDIA и другие компании.

Что вообще можно обнаружить внутри файла

У современных систем проверки есть три принципиально разных механизма. Первый связан с C2PA и Content Credentials, то есть с подписанными сведениями о происхождении цифрового материала. Файл может хранить данные о программе, которая его создала, отдельных операциях редактирования, применении генеративного ИИ и других этапах истории. Криптографическая подпись позволяет проверить, относится ли такая запись к конкретному файлу и не была ли она незаметно изменена.

C2PA нельзя воспринимать как печать «сделано ИИ». Стандарт используют камеры, редакторы и обычные системы публикации. Фотография непосредственно с камеры тоже может содержать Content Credentials. Кроме того, корректная подпись ничего не говорит о правдивости сцены. C2PA подтверждает происхождение и целостность заявленной истории, но фотография с действительной подписью всё равно может вводить в заблуждение. Сам консорциум C2PA отдельно предупреждает, что сведения о происхождении не являются проверкой фактов.

Второй механизм представляет собой невидимый водяной знак. Вместо отдельного блока метаданных сигнал встраивают непосредственно в изображение, звуковую волну, видео или статистическую структуру текста. Google использует SynthID, Meta разработала Content Seal, Anthropic начала внедрять водяной знак в текст Claude. Такие сигналы проектируют с расчётом на сжатие, изменение размера и часть других преобразований, но не существует неуничтожимого водяного знака. Независимые испытания уже показали случаи, когда сильная обрезка мешала обнаружению.

Третий механизм не требует заранее оставленной метки. Классификатор анализирует сам текст, голос или изображение и оценивает, насколько результат похож на материал конкретной модели либо на ИИ-контент вообще. Такой подход полезен, когда никакой маркировки нет, но результат остаётся вероятностным. Особенно сложны тексты, которые человек написал сам, а затем отредактировал с помощью модели. Современные детекторы заметно улучшились, однако исследования и практические тесты всё ещё фиксируют ложные срабатывания, пропуски и резкие изменения оценки после редактирования.

Какие сервисы что проверяют

Таблица показывает главную особенность рынка. Большинство официальных средств не отвечают на вопрос «создал ли файл какой-нибудь ИИ». Сервис обычно отвечает на гораздо более узкий вопрос, например «есть ли в изображении сигнал OpenAI» или «участвовал ли Claude в создании файла». Разница принципиальна, особенно при расследованиях и спорах об авторстве.

OpenAI Verify

OpenAI запустила публичный Verify для проверки изображений и аудиозаписей. На 3 сентября 2026 года сервис принимает PNG, JPG, WebP, MP3, WAV, AAC, FLAC, OGG, OPUS и PCM. Проверка рассчитана на материалы, созданные или экспортированные через ChatGPT, Codex и OpenAI API. Для изображений OpenAI использует сразу C2PA и SynthID, а для поддерживаемого аудио применяется SynthID.

Два сигнала решают разные задачи. C2PA хранит подробные сведения о происхождении, но отдельные редакторы и сайты могут удалить метаданные. SynthID встраивается непосредственно в содержимое и рассчитан на сохранение после части преобразований. OpenAI начала внедрять SynthID в изображения весной 2026 года, а 31 июля сообщила о расширении маркировки на поддерживаемое аудио. Переход OpenAI на технологию Google независимо подтверждался при освещении расширения SynthID на другие компании.

Положительный ответ OpenAI Verify служит сильным признаком происхождения от инструментов OpenAI. Но сервис не устанавливает автора, владельца файла, достоверность изображения или контекст его использования. Если человек загрузил собственную фотографию и попросил ChatGPT существенно изменить её с генерацией нового результата, созданный файл тоже может получить сигналы OpenAI. Поэтому правильная формулировка звучит как «файл создан или обработан с помощью поддерживаемого инструмента OpenAI», а не «всё содержимое придумал ИИ».

Отрицательный ответ ещё слабее. OpenAI перечисляет несколько причин отсутствия сигнала, включая старый файл, неподдерживаемый источник, удалённые метаданные и повреждённый водяной знак. Кроме того, файл мог создать Gemini, Midjourney, Stable Diffusion или другой генератор. Публичный Verify сейчас не предназначен для проверки текста и видео.

Gemini и SynthID от Google

Google встроила проверку непосредственно в Gemini. Авторизованный пользователь может загрузить одно изображение, видео или аудиофайл размером до 100 МБ и спросить, создан ли материал ИИ. Для видео установлен предел менее 90 секунд, для аудио менее одного часа. Gemini сочетает SynthID с Content Credentials. Первый механизм ищет водяной знак Google, второй читает совместимые сведения C2PA об истории файла.

Для видео Gemini может показать участки, в которых обнаружен SynthID. Отсутствие водяного знака Google не означает, что ролик снял человек. Справка Google прямо предупреждает, что файл мог создать другой ИИ. Существует и ещё менее очевидное ограничение. Хотя SynthID уже используют сторонние компании, Gemini пока распознаёт только метки, относящиеся к ИИ-инструментам Google. Поэтому изображение OpenAI с SynthID вполне может не получить подтверждение в Gemini.

Сама технология SynthID шире публичной проверки в Gemini. Google DeepMind разработала варианты маркировки изображений, видео, аудио и текста. В 2026 году технология фактически начала превращаться в межотраслевую основу. Google сообщает о сотрудничестве с Apple, OpenAI, ElevenLabs, NVIDIA и другими компаниями. Но единый общедоступный детектор всех разновидностей SynthID пока не появился.

Независимый тест Ars Technica показал, почему водяной знак полезнее обычных метаданных, но не превращается в абсолютное доказательство. В эксперименте SynthID выдержал сотни циклов сильного сжатия, снимок экрана и часть обрезки. После сочетания очень сильного ухудшения изображения с дополнительной обрезкой детектор перестал находить сигнал. Сам Google также не заявляет устойчивость против любых целенаправленных атак.

Claude Check Content и водяные знаки Anthropic

У Anthropic работает публичная страница проверки файлов, актуальный интерфейс называется Claude Check Content. Сервис принимает JPG, PNG, GIF, WebP, TIFF, HEIC, AVIF, SVG, DNG, JXL, MP4, MOV, AVI, WAV, MP3, M4A и FLAC размером до 100 МБ. Проверка выполняется локально в браузере. По заявлению Anthropic, файл не отправляется на сервер и не сохраняется.

Claude Check Content не рассматривает изображение или видео и не пытается угадать происхождение по внешним признакам. Инструмент ищет подписанную C2PA-запись, указывающую на Claude. Поэтому положительный ответ говорит только о том, что Claude участвовал в обработке файла. Исходное изображение вполне мог загрузить человек, после чего Claude преобразовал или экспортировал материал. Anthropic специально предупреждает, что проверка ничего не сообщает о содержании файла.

С текстом у Anthropic появилась отдельная система. Модели Claude, выпущенные начиная со 2 августа 2026 года и поддерживающие новую схему маркировки, внедряют незаметный статистический водяной знак прямо в генерируемый текст. В нём нет скрытых символов или персонального идентификатора пользователя. Независимое описание Nature подтверждает маркировку текста новых моделей Claude и связывает её внедрение с европейскими требованиями прозрачности.

Публичный Claude Check Content такой текст не проверяет. Для водяных знаков в тексте Anthropic предлагает Detection API, который на момент написания статьи находится в закрытом предварительном доступе для подходящих организаций, включая СМИ, исследователей, службы правопорядка и структуры, которым проверка нужна для выполнения требований законодательства ЕС. Старые модели Claude также не следует автоматически считать маркированными. Anthropic ещё добавляет поддержку для моделей, выпущенных до 2 августа.

Midjourney наконец получил собственную проверку

Midjourney долго оставался заметным пробелом в подобных списках, но в августе 2026 года компания запустила публичный Midjourney Verify. Сервис работает без учётной записи, принимает PNG, JPEG, WebP, GIF и TIFF размером до 20 МБ и не сохраняет загруженное изображение. В каждую выдаваемую Midjourney картинку компания помещает небольшой скрытый идентификатор, а проверщик сопоставляет его с настоящим изображением Midjourney.

Результатов три. Проверка может подтвердить происхождение от Midjourney, обнаружить некорректную или подменённую метку либо сообщить, что метаданные Midjourney отсутствуют. Последний вариант снова не означает «создано человеком». Midjourney открыто предупреждает, что снимок экрана, редактирование и большинство социальных сетей легко удаляют такую метку. Проверять лучше исходный файл, непосредственно скачанный из сервиса.

Подход Midjourney заметно отличается от SynthID. Компания описывает механизм как скрытый идентификатор в файле и проверку метаданных происхождения, а не как устойчивый пиксельный водяной знак. Поэтому Midjourney Verify особенно полезен при проверке оригинала, но намного слабее в расследовании картинки, которая уже несколько раз прошла через соцсети и редакторы.

Content Credentials и универсальная проверка C2PA

Если предполагаемый генератор неизвестен, хорошая первая проверка для медиаматериалов связана с Content Credentials. Публичный Verify от Content Authenticity Initiative принимает AVI, AVIF, DNG, HEIC, HEIF, JPEG, M4A, MOV, MP3, MP4, PDF, PNG, SVG, TIFF, WAV и WebP. При наличии C2PA сервис показывает доступную историю происхождения и изменения файла.

Главное достоинство такого подхода связано с независимостью от одного генератора. C2PA используют не только ИИ-компании. Стандарт подходит для камер, редакторов, издательских систем и генераторов. Поэтому корректная цепочка может показать, что исходная фотография появилась в камере, позднее прошла через редактор и на определённом этапе подверглась генеративной обработке. Подобная история намного информативнее бинарного ответа «ИИ или не ИИ».

Но C2PA не решает всю задачу. Встроенную запись можно удалить, а отсутствие Content Credentials ничего не доказывает. Современная спецификация предусматривает и более устойчивые механизмы, включая так называемые мягкие привязки, которые позволяют искать вынесенные данные происхождения через водяные знаки или цифровые отпечатки. Поддержка таких возможностей зависит от конкретного сервиса и файла.

PDF, DOCX, XLSX и PPTX

PDF уже можно проверять через Content Credentials Verify. При наличии C2PA сервис прочитает сведения о происхождении документа. Но такая проверка не анализирует текст PDF построчно и не отвечает, писал ли конкретный абзац ChatGPT. C2PA сообщает только ту историю, которую совместимые программы записали и подписали.

С файлами Microsoft Office есть любопытная тонкость. Сам стандарт C2PA 2.4 предусматривает работу с Office Open XML, к которому относятся DOCX, XLSX и PPTX. Поэтому утверждение «C2PA не умеет работать с документами Office» уже неверно. Однако публичный веб-проверщик Content Credentials на момент написания статьи не перечисляет DOCX, XLSX и PPTX среди принимаемых форматов. Возможности стандарта шире возможностей конкретного сайта.

Из-за этого проверить произвольный документ Office простой загрузкой в универсальный сервис пока нельзя так же удобно, как JPEG или PDF. Отдельные изображения внутри презентации могут сохранять собственные признаки происхождения, а корпоративные системы способны хранить историю создания и редактирования, но один ИИ-рисунок в презентации не доказывает, что модель создала весь файл.

ElevenLabs и проверка синтетического голоса

Для аудио у ElevenLabs появился собственный Audio Detector. Важная поправка к ранним описаниям сервиса состоит в том, что новый водяной знак разработан не самой ElevenLabs с нуля. Компания сотрудничает с Google DeepMind и использует SynthID. Детектор сначала ищет встроенный сигнал SynthID, а при его отсутствии может использовать старый AI Speech Classifier.

ElevenLabs заявляет, что SynthID рассчитан на сохранение после обрезки, ускорения, удаления метаданных и преобразования формата. Но Audio Detector распознаёт только водяные знаки ElevenLabs. Аудио из другой системы он не обязан находить. Ещё одно ограничение связано со временем. Ни одна запись ElevenLabs, созданная до июня 2026 года, не содержит нового водяного знака, а внедрение в 2026 году проходило поэтапно для разных продуктов и тарифов.

Поэтому старый голосовой файл разумно проверять и классификатором, но его процент нельзя трактовать как криптографическое доказательство. Классификатор оценивает сходство с генерациями ElevenLabs, тогда как обнаруженный SynthID подтверждает заранее внедрённый сигнал конкретной платформы. Эти типы доказательств имеют разный вес.

Meta Content Seal показал и пользу, и слабость водяных знаков

Meta летом 2026 года представила генератор Muse Image и собственный невидимый водяной знак Content Seal. Компания заявляет, что изображения Muse Image в Meta AI получают скрытый сигнал, рассчитанный на сохранение после изменения размера, сжатия, снимка экрана и обрезки. Одновременно Meta открыла предварительную версию инструмента, который проверяет наличие Content Seal. Поддержку видео компания пока только планирует.

Почти сразу появился хороший пример того, почему рекламное слово «устойчивый» нельзя переводить как «неудаляемый». Reuters проверил 40 исходных изображений Muse Image. Детектор Meta узнал все оригиналы, но после обрезки примерно до половины или трети исходной площади не смог подтвердить 55 процентов обработанных картинок. Meta признала, что сильная обрезка способна ослабить сигнал, и напомнила о предварительном статусе технологии.

Кейс Meta хорошо показывает асимметрию подобных проверок. Найденный водяной знак даёт полезное подтверждение происхождения. Ненайденный знак гораздо менее информативен, потому что причиной может быть не человеческое происхождение, а обычное редактирование файла.

Apple, Stability AI, Microsoft и другие системы

Apple в 2026 году тоже присоединилась к SynthID. Компания объявила, что новые изображения Image Playground получают скрытый SynthID, а фотографии, изменённые средствами Apple Intelligence в приложении Photos, также маркируются как обработанные ИИ. Независимые публикации после анонса подтвердили такую схему маркировки. При этом Gemini пока не превращается в универсальный детектор Apple, поскольку публичная проверка Google распознаёт собственные варианты SynthID.

Stability AI использует C2PA в собственном программном интерфейсе. Компания сообщает, что изображения, видео и поддерживаемое WAV-аудио, созданные через её API, получают сведения о генеративном происхождении, модели и версии, заверенные сертификатом Stability AI. Но для открыто распространяемых моделей такой механизм не встроен непосредственно в процесс генерации. При локальном запуске Stable Diffusion наличие маркировки зависит от конкретной программы и цепочки обработки.

Microsoft и Adobe также входят в экосистему C2PA. Поэтому для файлов из поддерживаемых версий Designer, Copilot, Firefly и других совместимых продуктов полезнее проверять Content Credentials, чем искать визуальные признаки нейросетевой генерации. Важна сама запись о действиях. Наличие C2PA не означает ИИ автоматически, поскольку тем же стандартом могут подписываться обычные фотографии и редакционные материалы.

xAI идёт более простым путём. В документации Grok указано, что сгенерированные изображения и видео получают видимый знак Grok, который нельзя отключить настройкой. Публичного универсального детектора скрытого происхождения в документации xAI пока не описано. Видимая надпись полезна для обычного пользователя, но сама по себе слабее криптографически проверяемой записи происхождения.

А что делать с обычным текстом

Текст остаётся самым неприятным типом контента для проверки. В файл TXT или скопированный абзац нечего надёжно прикрепить в виде обычных метаданных, потому что при копировании они исчезнут. Anthropic поэтому внедряет статистический водяной знак непосредственно в выбор слов новых моделей Claude. Google также разработала текстовую разновидность SynthID. Однако общедоступного межвендорного сервиса, куда можно вставить любой текст и достоверно узнать модель-автора, сейчас нет.

Сервисы вроде Pangram и GPTZero работают иначе. Они оценивают признаки самого текста и в 2026 году стали заметно точнее прежнего поколения детекторов. Но обзор Nature показывает, что проблемы не исчезли. Результаты разных систем расходятся, тексты со смешанным вкладом человека и ИИ особенно сложны, короткие фрагменты проверяются хуже, а небольшое редактирование иногда сильно меняет итоговый процент. В одном из разобранных случаев материал, идеи и первоначальный текст которого создал человек, получил крайне высокий ИИ-балл после языковой правки с помощью модели.

Поэтому результат «96 процентов ИИ» не равен доказательству «96 процентов слов написал ChatGPT». Подобный детектор годится для предварительного отбора материала, но не должен в одиночку служить основанием для увольнения, наказания студента, обвинения автора в плагиате или юридического вывода. Для серьёзной проверки нужны черновики, история версий, источники, переписка и другие независимые признаки происхождения.

Как правильно проверять подозрительный файл

Самая полезная вещь для проверки не дорогой детектор, а оригинальный файл. Снимок экрана, фотография монитора, копия из соцсети или файл после нескольких редакторов могут потерять C2PA и другие признаки. Midjourney прямо предупреждает о таком сценарии, а OpenAI перечисляет удаление метаданных и ухудшение водяного знака среди причин отрицательного результата.

Практический порядок проверки выглядит так.

1. Получите исходный файл. Не начинайте со снимка экрана, если можно запросить оригинал.
2. Определите предполагаемый генератор. Если есть основания подозревать ChatGPT, Claude, Gemini, Midjourney или ElevenLabs, сначала используйте фирменный проверщик.
3. Проверьте C2PA. Для изображений, видео, аудио и PDF откройте файл в Content Credentials Verify и посмотрите на издателя подписи, действия и историю.
4. Сравните несколько сигналов. Одновременное наличие доверенной C2PA-записи и фирменного водяного знака гораздо убедительнее одного вероятностного классификатора.
5. Не превращайте отрицательный результат в оправдательный приговор. Отсутствие метки означает лишь, что конкретная проверка её не нашла.
6. Ищите происхождение вне файла. Обратный поиск по изображению, исходная публикация, EXIF, история документа, предыдущие версии и дата появления нередко рассказывают больше, чем ИИ-детектор.
7. Для расследования фиксируйте результат. Сохраните оригинальный файл, его контрольную сумму, дату проверки, название сервиса и снимок результата. Иначе повторить проверку спустя несколько месяцев может быть трудно.

Не стоит прогонять один файл через десять случайных сайтов и усреднять проценты. Пять классификаторов, построенных на похожих статистических признаках, не превращаются в пять независимых доказательств. Гораздо полезнее сочетать разные классы сигналов, например криптографическую запись C2PA, встроенный водяной знак и независимую историю происхождения.

Как читать результат и не обмануть самого себя

Наиболее сильный сценарий возникает, когда оригинальный файл содержит доверенную C2PA-запись конкретного производителя, а его фирменный детектор одновременно находит невидимый водяной знак. Тогда можно с высокой уверенностью утверждать, что поддерживаемый инструмент производителя участвовал в создании или обработке файла. Даже такой результат не доказывает правдивость содержимого, личность автора, владение правами или долю работы, выполненную ИИ.

Гораздо слабее выглядит противоположная ситуация. OpenAI Verify ничего не нашёл, Gemini не обнаружил SynthID Google, C2PA отсутствует, а текстовый классификатор пишет «скорее человек». Такой набор не исключает генерацию. Файл мог появиться в другом сервисе, быть создан старой моделью, лишиться метаданных, пережить сильное редактирование или вообще исходить из локально запущенной открытой модели без какой-либо маркировки.

Поэтому вопрос «создал ли этот файл ИИ» пока слишком широкий для одного технического теста. Гораздо продуктивнее спрашивать, какие проверяемые сведения о происхождении сохранились и указывают ли они на конкретный инструмент. В 2026 году индустрия заметно приблизилась к такому подходу. C2PA даёт подписанную историю, SynthID и другие водяные знаки помогают пережить часть преобразований, а фирменные проверщики связывают сигнал с производителем. Универсального детектора всё ещё нет, и именно отрицательные результаты требуют наибольшей осторожности.