Пользователь выбирает мощную нейросеть, но сервис может незаметно подменить её дешёвой моделью. Anthropic представила FlashProve, систему, которая позволяет математически проверить, какая именно нейросеть создала ответ, не раскрывая её внутренние параметры.
Исследование опубликовано 2 ноября 2026 года. Разработчики предлагают прикреплять к ответам криптографическое доказательство, привязанное к конкретному набору весов модели. Проверяющему не понадобится запускать огромную нейросеть повторно или получать доступ к её закрытым параметрам. Достаточно самого запроса, ответа и специального сертификата.
В основе FlashProve лежит технология zkSNARK, разновидность доказательств с нулевым разглашением. Сервис заранее фиксирует криптографический отпечаток весов модели, а затем подтверждает, что именно соответствующая модель вычислила проверяемый токен. При подмене вычисления другим набором весов проверка должна завершиться неудачей.
Для эксперимента Anthropic выбрала Llama 4 Maverick с 400 млрд параметров, причём при обработке отдельного токена модель задействует около 17 млрд. FlashProve удалось приспособить к такой архитектуре, чтобы не проверять все параметры сразу. Система работает с четырёхбитной версией весов и использует один ускоритель Nvidia H100.
В испытаниях FlashProve создавала доказательства со скоростью примерно 110 токенов в секунду при пакетной обработке. Размер одного файла составлял 18,78 МБ. Проверка занимала 17 секунд на 24-ядерном процессоре или 21 секунду на одном потоке. Предварительная подготовка модели требовала около 39 минут.
Главный недостаток пока связан с ценой вычислений. Генерация доказательств требует примерно в 70–95 раз больше времени GPU, чем обычная работа модели в vLLM. Кроме того, доказательства создают после генерации, а не одновременно с выдачей ответа. Поэтому технология пока плохо подходит для мгновенной проверки каждой реплики в обычном чате.
Разработчики видят применение в аудите ИИ-сервисов и защите от подмены моделей. Например, посредник не сможет без риска обнаружения продавать доступ к дорогой нейросети, а фактически запускать дешёвую. Аналогичный механизм поможет выявить сервер, на котором после взлома вместо разрешённой модели работает изменённая версия.
В описании FlashProve Anthropic отдельно оговаривает ограничения. Прототип проверяет целочисленные вычисления при выборе наиболее вероятного токена и поддерживает контекст до 1024 токенов. Результаты модели с обычными вычислениями с плавающей точкой или случайной выборкой токенов могут отличаться. Доказательство также не подтверждает правдивость самого ответа.
Код, описание протокола и формальные доказательства на языке Lean опубликованы под лицензией Apache 2.0. Однако быстрая реализация на C++ пока не имеет полной формальной гарантии соответствия проверенной математической схеме. Anthropic предлагает специалистам изучить прототип и продолжить работу, прежде чем внедрять метод в критически важные системы.