ИИ плюс математика: новый способ поиска багов от Google

ИИ плюс математика: новый способ поиска багов от Google

Gemini и математический решатель Z3 обнаружили шесть дефектов в программах на Go, включая сбои, пропущенные обычными тестами.

image

Крупнейшие китайские разработчики искусственного интеллекта, вероятно, используют мощнейшие ускорители Nvidia Blackwell, поставки которых в Китай ограничены американскими властями. Следы запрещённого к свободному экспорту оборудования обнаружили непосредственно внутри опубликованных нейросетей.

Исследователь Уилл Депью (Will DePue), ранее работавший в OpenAI, представил 12 ноября результаты расследования Unemployment Labs. Анализ выявил характерные признаки архитектуры Blackwell сразу в шести моделях четырёх китайских компаний. В список попали DeepSeek, Moonshot AI, MiniMax и Ant Group. Прежде подобные подозрения основывались преимущественно на заявлениях американских чиновников и сведениях о поставках оборудования.

У DeepSeek признаки Blackwell обнаружились в моделях V4-Flash и V4-Pro, выпущенных в апреле 2026 года. Аналогичные следы нашлись в Kimi K3 и K3.1-Pro компании Moonshot AI, MiniMax-M3 и Ling-3.1-flash от Ant Group. Причём речь идёт о разных вариантах ускорителей. Две модели соответствуют конфигурации B200 или B300, остальные четыре указывают на GB200 или GB300, используемые в высокопроизводительных вычислительных системах.

Главная особенность расследования заключается в способе поиска доказательств. Депью не понадобились внутренние документы компаний, фотографии серверов или показания сотрудников. Исследователь изучил опубликованные веса нейросетей — огромные массивы числовых параметров, определяющих работу искусственного интеллекта. Оказалось, что внутри таких массивов могут сохраняться следы оборудования, на котором первоначально создавали модель.

Перед обучением нейросеть получает начальные значения параметров, сформированные генератором псевдослучайных чисел. В популярном фреймворке PyTorch распределение чисел зависит от того, сколько вычислительных блоков графического процессора участвует в операции. Разные поколения ускорителей располагают полученные значения в разном порядке. Часть первоначальных параметров сохраняется даже после длительного обучения, позволяя восстановить конфигурацию исходного оборудования.

Для поиска аппаратных отпечатков исследователь проверил около шести триллионов сочетаний начальных значений генератора и схем распределения вычислений. Конфигурации ускорителей Hopper с 132 потоковыми мультипроцессорами соответствовали старым китайским моделям. Новые разработки показали совпадения с архитектурой Blackwell, использующей 148 или 152 таких блока. По утверждению автора, статистическая значимость найденных совпадений существенно превышает уровень случайного сходства.

Депью дополнительно проверил результаты на настоящих ускорителях Nvidia H100, B300 и GB200. Запуск стандартного PyTorch на B300 позволил воспроизвести 461 из 469 выбранных строк исходных параметров DeepSeek-V4-Flash с корреляцией выше 0,99. В 445 случаях совпадение оказалось побитовым. На H100 восстановить аналогичные значения не удалось. Для Kimi K3 исследователь воспроизвёл все 13 сохранившихся строк на GB200, используя восстановленное начальное значение генератора.

Метод проверили также на 24 моделях, разработчики которых ранее раскрыли использованное оборудование. Во всех случаях определённая конфигурация совпала с опубликованными сведениями. Исследователь выложил код проверки и образцы параметров на GitHub, чтобы другие специалисты могли повторить часть экспериментов. Однако независимого подтверждения всех выводов расследования пока нет.

Сравнение поколений показало характерную последовательность. DeepSeek-V3, выпущенная в декабре 2024 года, соответствует архитектуре Hopper, тогда как обе проверенные версии V4 уже имеют признаки Blackwell. У Moonshot AI аналогичный переход наблюдается между Kimi K2.5 января 2026 года и Kimi K3, опубликованной в июле. MiniMax и Ant Group также перешли от характерных для Hopper конфигураций к Blackwell в течение 2026 года.

При этом переход оказался далеко не всеобщим. Последние модели Alibaba Qwen, Zhipu GLM, Tencent, Xiaomi и StepFun, в которых удалось определить аппаратные признаки, по-прежнему соответствуют Hopper. В LongCat-2.0 компании Meituan следов Nvidia вообще не обнаружили. Разработчик утверждает, что обучал нейросеть на специализированных ИИ-ускорителях. Отсутствие отпечатка само по себе не позволяет установить, какое оборудование использовалось впоследствии.

Отдельно Депью попытался оценить масштаб вычислительной инфраструктуры. По предварительным расчётам, для обучения Kimi K3 могли потребоваться около 4500 ускорителей Blackwell, а DeepSeek-V4-Pro — примерно 3000. Совокупная оценка пяти обучающих запусков составляет около 12 тысяч ускорителей с широким диапазоном от 7 до 22 тысяч. Стоимость подобного оборудования может превышать полмиллиарда долларов.

Сам автор признаёт низкую надёжность финансовых и количественных оценок. Реальное число ускорителей зависит от продолжительности обучения, эффективности использования оборудования и объёма обработанных данных. Компании не раскрыли достаточно сведений для точного расчёта. Поэтому цифра в 12 тысяч устройств остаётся предположением, а не установленным количеством приобретённых или арендованных чипов.

Есть и более существенное ограничение. Аппаратный отпечаток показывает, где создавались начальные параметры, но не доказывает, что всё последующее обучение проходило на тех же процессорах. Разработчики могли сформировать веса на одном оборудовании, а затем перенести модель на другое. Теоретически похожую конфигурацию способна воспроизвести и специально настроенная AMD MI300X. Для DeepSeek-V4-Flash исследователь исключил такую альтернативу дополнительной проверкой числовых значений, однако для остальных пяти моделей полностью устранить неопределённость не удалось.

Главный нерешённый вопрос касается местонахождения оборудования. Даже убедительное подтверждение использования Blackwell не означает, что ускорители незаконно ввезли в Китай. Китайские разработчики могут арендовать мощности зарубежных дата-центров, в том числе в Юго-Восточной Азии. Такой доступ вызывает обеспокоенность американских властей, поскольку позволяет пользоваться передовыми вычислительными системами без физического импорта процессоров.

Вашингтон ограничивает экспорт наиболее мощных ускорителей Nvidia в Китай, стремясь затруднить развитие передовых китайских систем искусственного интеллекта. При этом правила для разных поколений оборудования отличаются. В январе 2026 года Министерство торговли США смягчило условия рассмотрения экспортных лицензий для H200 и сопоставимых ускорителей, но Blackwell продолжает требовать отдельного разрешения. Публичных сведений о выдаче таких лицензий четырём китайским разработчикам нет.

Расследование показывает и другую проблему для индустрии искусственного интеллекта. Публикация весов может непреднамеренно раскрывать технические подробности создания нейросети, которые разработчики предпочли бы сохранить в тайне. Впрочем, метод работает не всегда. Аппаратные следы можно уничтожить изменением процедуры инициализации параметров, а некоторые программные фреймворки вообще не оставляют подобных признаков. Поэтому находка открывает новый способ проверки происхождения ИИ-моделей, но пока не позволяет достоверно восстановить всю историю их обучения.