Два пути, один TinyBox: AMD и Nvidia в битве за сердца ИИ-разработчиков

Компания Tiny Corp выпустит две версии системы TinyBox с разными видеокартами. Второй вариант с графическим процессором Nvidia появился из-за проблем с открытой прошивкой для изначальной модели на базе AMD Radeon RX 7900 XTX. Специалисты пытались устранить этот дефект на протяжении нескольких недель, постоянно откладывая запуск продукта.

TinyBox способна запускать большие модели машинного обучения прямо из коробки и ориентирована на разработчиков и исследователей, которым нужно компактное, но мощное решение для интенсивных вычислений.

Изначально компания остановила выбор на флагманском игровом GPU AMD Radeon RX 7900 XTX, оснащенного шестью графическими процессорами для решения задач ИИ. В Tiny Corp посчитали, что продукция Nvidia слишком переоценена в плане производительности, а также раскритиковали закрытый программный стек CUDA.

Однако вскоре начались жалобы на сбои драйверов и прошивки, приводящие к зависаниям системы на базе Radeon. Tiny Corp неоднократно просила AMD открыть исходный код Micro Engine Scheduler (MES), чтобы самостоятельно исправить баги, не дожидаясь патчей. Это и задержало запуск первой модели.

Рассматривался даже вариант с видеокартами Intel Arc Alchemist, поскольку Intel поддерживает открытый код. Внедрение GPU Nvidia GeForce RTX 4090 тоже обсуждали, хоть и неохотно, отмечая: «по крайней мере мы знаем, что их ПО работает стабильно».

Ранее основатель Tiny Corp Джордж Хотц заявлял, что на 70% уверен в том, что AMD все же откроет исходный код Micro Engine Scheduler (MES). Однако 23 марта генеральный директор AMD Лиза Су отказала в этой просьбе.

«Если вам нравится ковыряться в железе и терпеть боль, покупайте версию на AMD. Драйвер все еще вызывает сбои GPU и зависания, но мы можем совместно поработать над его улучшением», — говорится в сообщении разработчиков.

Что касается TinyBox на базе RTX 4090, то он также выйдет, несмотря на явное нежелание компании его выпускать изначально. «Если вам нужна просто работающая система без заморочек, берите версию на Nvidia. Да, она дороже, но надежность на высоте», — отмечают в Tiny Corp.

Кроме того, в Tiny Corp сообщили: «Ждите анонса от AMD, они пошли нам навстречу, хоть и не полностью выполнили наши требования. Но это только начало». Возможно, AMD нашла частичное решение проблем со стабильностью RX 7900 XTX.

В перспективе Tiny Corp может выпустить TinyBox на Intel Arc A770, но пока есть только прототип, сроков релиза нет. Ориентировочная цена $10 000 фигурировала в одном из опросов компании в этом месяце.