Amazon открыла разработчикам ИИ доступ к собственным процессорам Trainium без необходимости переписывать привычный код под новое оборудование. Бесплатная система TorchNeuron позволяет запускать модели на PyTorch и устраняет один из главных барьеров, защищавших позиции Nvidia на рынке искусственного интеллекта.
Новый программный инструмент TorchNeuron превращает ускорители Amazon в полноценные вычислительные устройства внутри PyTorch, одного из самых популярных фреймворков для создания и обучения нейросетей. Разработчикам больше не нужно отдельно адаптировать большую часть программ под архитектуру Trainium. В простейшем случае достаточно изменить одну настройку, чтобы перенести вычисления с видеокарт на чипы Amazon.
Главная цель Amazon заключается не только в продаже собственных процессоров. Nvidia годами удерживает преимущество благодаря CUDA, программной платформе, под которую разработчики создают инструменты обучения и запуска нейросетей. Даже при наличии более дешёвого оборудования переход на альтернативные ускорители часто требует серьёзной переработки программ. TorchNeuron сокращает такую зависимость и позволяет сравнивать вычислительные платформы без дорогостоящего переноса всего проекта.
По словам Колина Брейса, вице-президента по программному обеспечению Annapurna Labs, нового инструмента уже коснулись более 30 первых заказчиков Amazon. Среди пользователей есть разработчики робототехники, голосового искусственного интеллекта и моделей, которые учатся представлять физический мир и предсказывать его изменения. В компании утверждают, что переход на Trainium способен заметно снизить вычислительные расходы, однако универсальных показателей экономии или независимых сравнительных тестов пока не представлено.
Одно из наиболее заметных изменений связано с поддержкой готовых нейросетей. Разработчики Hugging Face подтвердили, что благодаря TorchNeuron их библиотека Transformers теперь поддерживает 89% архитектур из сотни наиболее востребованных моделей генерации текста. Прежняя интеграция Optimum Neuron версии 0.4.5 охватывала только 46%. Речь идёт именно о совместимости архитектур, а не о гарантированной производительности или успешном запуске любой модели без дополнительных настроек.
Совместимость распространяется и на другие популярные инструменты Hugging Face, включая Diffusers для генерации изображений и видео, Accelerate для организации вычислений и TRL для дополнительного обучения языковых моделей. Раньше программистам приходилось работать через специальную прослойку PyTorch/XLA, учитывать ограничения компилятора и использовать адаптированные версии отдельных компонентов. Теперь стандартные библиотеки могут обращаться к Trainium напрямую через общий интерфейс PyTorch.
В основе TorchNeuron лежит механизм PrivateUse1, который позволяет подключать к PyTorch новые типы вычислительных устройств. Amazon зарегистрировала свои чипы как отдельный тип ускорителя с обозначением neuron. В результате стандартные операции над данными, механизмы автоматического вычисления градиентов и средства распределённого обучения могут работать с Trainium через знакомые разработчикам интерфейсы. Подробности реализации опубликованы в техническом описании проекта.
TorchNeuron поддерживает два основных режима работы. Первый выполняет операции последовательно и позволяет проверять промежуточные результаты, искать ошибки и экспериментировать с архитектурой нейросети. Второй использует torch.compile, который заранее преобразует вычисления в оптимизированные инструкции для процессоров Amazon. Дополнительно разработчики создали экспериментальный режим Adaptive Eager Execution, позволяющий ускорять отдельные операции без отказа от интерактивной отладки.
Для крупных моделей предусмотрены стандартные средства распределения вычислений между несколькими ускорителями и серверами. Поддерживаются технологии FSDP, DTensor и различные способы параллельного обучения. Разработчики также сохранили возможность создавать специализированные вычислительные ядра через Neuron Kernel Interface и анализировать производительность с помощью Neuron Explorer. Новая интеграция рассчитана прежде всего на поколения Trainium2 и Trainium3.
При этом TorchNeuron пока нельзя считать полной заменой программной экосистемы Nvidia. Часть возможностей остаётся экспериментальной, а поддержка отдельных форматов вычислений, включая FP8 через TorchAO, доступна лишь в закрытой бета-версии. Совместимость с PyTorch также не означает автоматического переноса программ, которые напрямую используют CUDA или специализированные библиотеки Nvidia. Для подобных проектов по-прежнему потребуется адаптация отдельных компонентов.
Публичная бета-версия TorchNeuron запланирована на 20 октября 2026 года, одновременно с презентацией на конференции PyTorch Conference North America. Amazon намерена распространять исходный код по свободной лицензии Apache 2.0. До публичного запуска разработка была доступна ограниченному кругу участников закрытого тестирования. Установить новый инструмент можно будет через пакет torch-neuronx из репозитория AWS Neuron.
Выход TorchNeuron продолжает борьбу крупнейших облачных компаний за рынок ИИ-ускорителей. Google развивает собственные процессоры TPU, Microsoft создаёт семейство Maia, а Amazon предлагает Trainium для обучения и запуска нейросетей в AWS. Производителям приходится конкурировать не только вычислительной мощностью и стоимостью оборудования, но и удобством программных инструментов. Даже быстрый процессор мало привлекает клиентов, если переход на него требует месяцев инженерной работы.
Для Nvidia новая разработка Amazon представляет прежде всего программный вызов. CUDA остаётся одной из главных причин, по которым исследовательские лаборатории и технологические компании продолжают выбирать видеокарты Nvidia. Если альтернативные ускорители смогут запускать распространённые модели без серьёзной переделки кода, разработчикам станет проще менять поставщиков вычислительных мощностей. Однако реальный эффект TorchNeuron будет зависеть от производительности, стабильности и стоимости работы конкретных нейросетей, а не только от заявленной совместимости с PyTorch.