Искусственный мозг на 20 ваттах обогнал GPU в 18 раз — нейроморфные чипы решают уравнения быстрее суперкомпьютеров

Искусственный мозг на 20 ваттах обогнал GPU в 18 раз — нейроморфные чипы решают уравнения быстрее суперкомпьютеров

… а потребляют как обычная лампочка.

image

Исследователи из Sandia National Laboratories показали, что нейроморфные компьютеры, созданные по образцу работы человеческого мозга, могут быть полезны не только для ускорения нейросетей. В новой работе ученые продемонстрировали, что такие системы справляются и с решением сложных математических уравнений, которые сегодня считаются одной из самых тяжелых задач для суперкомпьютеров.

Человеческий мозг потребляет порядка 20 ватт энергии и при этом непрерывно обрабатывает огромные объемы информации от органов чувств, не перегружаясь и не выключаясь. Уже несколько десятилетий инженеры пытаются воспроизвести этот принцип в кремнии. Так появился класс вычислительных систем, который принято называть нейроморфными. Их архитектура устроена иначе, чем у обычных процессоров, и больше напоминает работу нейронов и синапсов.

Sandia National Laboratories уже много лет активно работают с такими системами. За это время в лаборатории развернули несколько нейроморфных платформ, включая решения Intel, SpiNNaker и IBM. Основное внимание в исследованиях обычно уделялось задачам искусственного интеллекта и машинного обучения, однако, как выяснилось, возможности таких чипов этим не ограничиваются.

По словам исследователей Джеймса Эймона и Брэда Тайлмана, мозг постоянно выполняет сложнейшие вычисления, даже если человек этого не осознает. Простейшие на первый взгляд действия — например, удар по теннисному мячу или замах битой — требуют расчетов колоссальной сложности. По уровню нагрузки такие задачи сопоставимы с экзафлопсными вычислениями, но мозг справляется с ними крайне экономно.

Команда Sandia описала новый алгоритм, который позволяет эффективно решать уравнения в частных производных на нейроморфных компьютерах. Эти уравнения лежат в основе современной научной вычислительной техники. С их помощью моделируют взаимодействие молекул, течение жидкости в турбинах, распространение радиоволн внутри зданий и множество других процессов.

Подобные расчеты крайне ресурсоемки. Для их выполнения обычно задействуют самые мощные машины современности. Нейроморфные системы рассматриваются как возможная альтернатива, поскольку при удачном масштабировании они обещают гораздо меньшие энергозатраты.

Хотя такие компьютеры пока находятся на ранней стадии развития, они уже показывают заметное преимущество по эффективности. В Sandia используют системы Intel Loihi 2, развернутые в комплексах Hala Point и Oheo Gulch. По данным лаборатории, эти установки обеспечивают до 15 триллионов операций в секунду на ватт, что примерно в два с половиной раза выше показателей современных графических процессоров, включая линейку Nvidia Blackwell.

Еще более свежая система на базе SpiNNaker2, установленная в Sandia прошлым летом, демонстрирует еще больший разрыв. Ее производительность на ватт, по заявлениям разработчиков, превышает аналогичные показатели современных GPU примерно в 18 раз.

При этом у нейроморфных вычислений есть серьезная проблема. Архитектура с вычислениями «в памяти» крайне сложна в программировании. Для многих задач исследователям приходится заново изобретать алгоритмы, поскольку привычные методы просто не подходят.

В новой работе ученые предложили алгоритм NeuroFEM. Он реализует метод конечных элементов — один из стандартных подходов к решению уравнений в частных производных — и адаптирует его для работы на импульсном нейроморфном оборудовании. Важно, что речь идет не о чисто теоретической модели. Расчеты выполнялись на реальной системе Intel Oheo Gulch, оснащенной 32 нейроморфными чипами Loihi 2.

Во время тестов удалось добиться почти идеального масштабирования. Это означает, что при удвоении числа вычислительных ядер время решения задачи сокращалось вдвое. Полностью уйти от ограничений, описываемых законом Амдала, не удалось, однако алгоритм все равно показал 99-процентную параллелизуемость, что для подобных задач считается крайне высоким показателем.

Авторы работы также утверждают, что NeuroFEM снимает часть проблем, связанных с программированием нейроморфных систем. По их словам, предложенный подход позволяет использовать такое оборудование для широкого круга численных задач практически без дополнительной подготовки со стороны пользователя. Сложность разработки долгое время считалась одним из главных барьеров для распространения нейроморфных процессоров..

Исследователи предполагают, что переход к более аналоговой версии нейроморфной архитектуры — при том, что Loihi 2 все еще остается цифровым чипом — может открыть путь к еще более сложным расчетам. В таком случае уравнения большей размерности можно будет решать быстрее и с меньшими энергозатратами.

В то же время нейроморфные системы остаются не единственным направлением развития. Все больше ученых экспериментируют с машинным обучением и генеративными моделями, которые используются как приближенные заменители традиционных расчетов в высокопроизводительных вычислениях.

Сами авторы подчеркивают, что вопрос превосходства нейроморфных компьютеров над GPU в задачах глубокого обучения пока остается открытым. Современные нейросети во многом эволюционировали под архитектуру графических процессоров, и не факт, что альтернативный подход окажется универсально лучше.