Полупроводниковый стартап Volantis привлек $88 млн на технологию, которая должна снять одно из главных ограничений современных ускорителей искусственного интеллекта. Компания предлагает заменить короткие электрические соединения между вычислительным чипом и памятью оптическими каналами и утверждает, что такой подход позволит подключать к одному ускорителю более 220 чиплетов памяти.
Производительность больших ИИ-моделей зависит не только от вычислительной мощности GPU. Во время инференса ускорителю приходится постоянно получать из памяти веса модели и промежуточные данные, поэтому недостаточная пропускная способность способна оставить вычислительные блоки без работы. Nvidia, AMD и другие производители решают проблему с помощью HBM, размещая быструю память максимально близко к процессору.
Масштабировать подобную конструкцию становится все сложнее. Электрические линии внутри подложки работают на расстояниях всего в несколько миллиметров, поэтому вокруг процессора помещается ограниченное количество памяти. Volantis разработала соединение, в котором данные передаются светом по оптическим волноводам на расстояние свыше 200 мм. Компания рассчитывает увеличить доступную процессору память и одновременно нарастить пропускную способность более чем на порядок.
Источником света служат миниатюрные лазеры VCSEL, или вертикально-излучающие лазеры с поверхностным резонатором. Технология давно вышла за пределы лабораторий и выпускается массово. VCSEL применяются, в частности, в системе Face ID: еще в 2017 году Apple вложила $390 млн в расширение производства подобных лазеров компанией Finisar.
Volantis рассчитывает использовать уже существующую производственную базу VCSEL вместо создания совершенно новой цепочки поставок для фотонных компонентов. В архитектуре стартапа микролазеры интегрируются непосредственно в систему, поэтому внешние лазерные источники не требуются. Заявленная дальность оптических соединений превышает 200 мм против примерно двух-пяти миллиметров у традиционных электрических линий.
Первый продукт Volantis получил название A-1. На сайте компании для системы указаны 10 ТБ памяти и пропускная способность 240 ТБ/с. Volantis также рассчитывает довести скорость работы крупных ИИ-моделей до 10 000 токенов в секунду на пользователя. В свежем анонсе стартап говорит о поддержке моделей более чем с 20 трлн параметров.
Пока подобные показатели остаются целевыми характеристиками будущей системы, а не результатами независимого тестирования готового коммерческого оборудования. Volantis демонстрирует отдельные работающие оптические соединения и заявляет энергопотребление менее одного пикоджоуля на переданный бит, однако полноценный A-1 заказчики еще не получили. Первые интегрированные системы компания планирует поставить в 2027 году.
Ставка на оптические соединения отражает более широкую проблему рынка ИИ-ускорителей. Рост нейросетей быстро увеличивает требования к объему и скорости памяти, а простое добавление вычислительных блоков перестает давать прежний прирост производительности. Производители памяти и процессоров параллельно ищут другие варианты, включая новые поколения HBM, высокоскоростную флеш-память и фотонные интерфейсы.
Команда Volantis собрала специалистов, ранее работавших над чипами и упаковкой в Nvidia, AMD, Broadcom, Micron и Ayar Labs. Среди разработчиков есть специалисты, участвовавшие в создании HBM, технологии упаковки CoWoS и систем совместной упаковки электроники с оптикой. Новый раунд возглавили инвестор Лэчи Грум и Abstract Ventures, также средства вложили Джон Дорр, VXI Capital, Triatomic, Susa Ventures, Навин Рао, Дваркеш Патель и исследователь Anthropic Шолто Дуглас.