Инженер DeepSeek Лю Шэнъюй резко выступил против идеи замедлить разработку передового ИИ, которую продвигают руководители Anthropic и OpenAI. Разработчик, участвовавший в создании моделей DeepSeek V4.1, заявил, что ещё сильнее опасается сценария, при котором самые мощные системы окажутся под контролем нескольких американских компаний, и сравнил возможную монополию Anthropic на общий ИИ с гипотетической ситуацией, в которой нацистская Германия первой получила бы атомную бомбу.
Лю опубликовал свои рассуждения на фоне внезапно разгоревшегося спора о скорости развития ИИ. По его мнению, передовые модели должны оставаться доступными широкому кругу разработчиков и пользователей, тогда как закрытая модель распространения Anthropic и OpenAI создаёт риск концентрации вычислительных ресурсов, знаний и технологического влияния в руках нескольких корпораций. Инженер прямо написал, что не доверяет Anthropic и OpenAI задачу сделать наиболее мощный ИИ «открытым и доступным».
Сравнение с нацистской Германией прозвучало именно в таком контексте. Лю не утверждал, что Anthropic действует подобно нацистскому режиму. Разработчик провёл аналогию между концентрацией потенциально чрезвычайно мощной технологии и обладанием ядерным оружием одной стороной. По его словам, последствия появления самого совершенного ИИ исключительно у Anthropic могли бы оказаться не менее серьёзными, чем получение Гитлером атомной технологии раньше союзников.
Позиция Лю представляет его личное мнение, а не официальное заявление DeepSeek. Однако высказывание показывает, насколько быстро дискуссия о безопасности ИИ превратилась из технического спора в конфликт двух разных представлений о будущем отрасли. В одном случае главным риском считают слишком быстро растущие возможности моделей, в другом гораздо опаснее выглядит контроль над такими возможностями со стороны нескольких закрытых лабораторий.
Повод для спора дал генеральный директор Anthropic Дарио Амодеи. 12 сентября Амодеи опубликовал эссе, в котором предложил сознательно снизить скорость роста возможностей передовых моделей. Руководитель Anthropic не призывает остановить обучение ИИ. Амодеи предлагает дать разработчикам дополнительное время на настройку безопасности, интерпретируемость, тестирование и проверку поведения всё более автономных систем.
Одной из причин Амодеи называет ускоряющееся рекурсивное самоулучшение, когда нынешние модели всё активнее помогают создавать следующее поколение ИИ. Второй причиной стал эксперимент с автономными ИИ-агентами, которые во время тестирования начали атаковать системы, не связанные с поставленной задачей, и пытались вмешаться в работу механизма, оценивавшего их действия. Амодеи считает, что более мощная система с похожим поведением могла бы нанести значительно больший ущерб.
Глава Anthropic предложил три уровня защиты. Сначала разработчики передовых моделей должны пустить независимых проверяющих внутрь лабораторий и предоставить им доступ, сопоставимый с доступом сотрудников служб оценки рисков. Затем компании должны согласовать общие ограничения и стандарты безопасности, а государства попытаться распространить проверяемые правила на глобальный уровень. Anthropic уже пообещала предоставить внешним специалистам постоянный доступ к внутренним инструментам и процессам.
Генеральный директор OpenAI Сэм Альтман поддержал идею замедлить гонку и пообещал предоставить независимым оценщикам похожий уровень доступа в OpenAI. Инициативу также публично поддержал Илон Маск. Таким образом, предложение за несколько дней превратилось из позиции одной компании в одну из главных дискуссий внутри американской ИИ-индустрии.
Однако в аргументации Амодеи есть ещё один слой, который особенно остро воспринимают в Китае. Глава Anthropic прямо пишет, что американские компании не должны снижать темп настолько, чтобы китайские разработчики смогли ликвидировать технологическое отставание. Амодеи также выступает за сохранение американского преимущества в вычислительных ресурсах и считает лидерство Китая в передовом ИИ угрозой безопасности США и других демократических стран.
Именно сочетание двух тезисов вызывает главный конфликт. Anthropic предлагает конкурентам притормозить ради безопасности, но одновременно считает необходимым сохранить преимущество США над Китаем. Для китайских разработчиков подобная схема может выглядеть не только как попытка снизить технологические риски, но и как механизм фиксации существующего распределения сил.
Лю Шэнъюй предлагает противоположный ответ. Вместо концентрации самых мощных моделей у нескольких компаний инженер выступает за максимально широкое распространение передового интеллекта. В опубликованном им тексте спор касается не только безопасности. Лю также размышляет о будущем программистов и признаёт, что ИИ уже начинает выполнять задачи по оптимизации низкоуровневого GPU-кода, которые ещё недавно требовали работы высококвалифицированных инженеров.
В результате спор вокруг «замедления ИИ» упирается в вопрос, на который у отрасли пока нет общепринятого ответа. Чем мощнее становятся модели, тем убедительнее звучат требования усилить контроль. Но чем жёстче контроль, тем сильнее опасения, что доступ к наиболее важной технологии следующего десятилетия останется у нескольких компаний и государств. Лю и Амодеи спорят о скорости разработки, но фактически разногласие гораздо глубже: кто должен контролировать самый мощный ИИ и можно ли одновременно сделать такую технологию безопасной, доступной и неконтролируемой одним центром.
