Китай вкладывает $150 млрд, Intel строит системы на миллиард нейронов. Что происходит в гонке нейроморфных вычислений

Китай вкладывает $150 млрд, Intel строит системы на миллиард нейронов. Что происходит в гонке нейроморфных вычислений

Loihi, TrueNorth и китайский Darwin Monkey показывают что нейроморфика масштабируется до миллиардов нейронов и при этом остается экономной.

image

Нейроморфные вычисления, то есть аппаратные системы, которые работают по принципу нейронов и импульсов мозга, быстро выходят из стен лабораторий и попадают в реальные инженерные проекты. В эпоху edge-вычислений компании и исследователи создают чипы, которые обрабатывают данные только тогда, когда происходит событие. Это дает очень высокую энергоэффективность и значительно меньшее время отклика по сравнению с традиционными CPU и GPU.

В основе такого подхода лежат импульсные нейронные сети. Они устроены иначе, чем привычные глубокие нейросети. Вместо фиксированных численных активаций они используют асинхронные импульсы, примерно так же, как это делает мозг. Сети с шипами работают по событийной модели, поэтому у них меньше лишних вычислений и меньше обмена данными.

Исследователи честно говорят про сильные и слабые стороны этих систем. Классические глубокие нейросети дают высокую точность, и для них есть удобные инструменты обучения, но они прожорливы и требуют много вычислительных ресурсов. Импульсные сети, наоборот, позволяют строить биологически вдохновленные, событийные архитектуры, которые потребляют гораздо меньше энергии. Проблема в том, что экосистема таких сетей еще не так развита, и обучение пока сложнее.

Сэкономить удается действительно много. Intel сообщает, что ее нейроморфные чипы на базе Loihi могут выполнять вывод и задачи оптимизации в сотню раз экономичнее и до 50 раз быстрее, чем обычные системы на CPU и GPU. IBM раньше показала чип TrueNorth, который выдавал около 400 млрд операций в секунду на ватт — это показатель, с которым обычные процессоры практически не могут конкурировать. Такое становится возможным благодаря разреженности вычислений и тому, что чип фактически просыпается только тогда, когда пришел сигнал.

У этих преимуществ есть цена. Импульсные сети пока чаще уступают в точности и удобстве классическим DNN. В обзорах это напрямую признают: там говорится, что традиционные сети легче обучать и они стабильнее, а SNN могут быть намного энергоэффективнее, но требуют новых методов обучения и специализированного железа. Разрыв постепенно сокращается, однако сейчас спайкинговый ИИ немного отстает по качеству ответов.

Мировые игроки это понимают и вкладываются в технологии раннего поколения. В США первыми заметные системы сделали IBM и Intel. Чип TrueNorth, представленный IBM еще в 2014 году, содержал около 1 млн нейронов и 256 млн синапсов и при этом потреблял всего 65 мВт, выполняя десятки миллиардов синаптических операций в секунду. Intel пошла дальше и создала линейку Loihi и Loihi 2, а затем собрала из этих кристаллов крупные системы, такие как Pohoiki Beach на 8 млн нейронов и Hala Point — свыше 1,15 млрд нейронов. По данным Intel, такие прототипы работают до 50 раз быстрее и при этом в 100 раз экономичнее GPU. Параллельно на рынке активны BrainChip и европейско-швейцарские разработки SynSense, которые предлагают цифровые ядра для edge-ИИ в автомобилях и камерах.

К гонке подключился Китай. Государственные программы там направлены на развитие собственных ИИ-чипов и рассматривают нейроморфику как одну из флагманских областей. Проект Darwin Monkey в Китае создал стойковую нейроморфную систему с более чем 2 млрд нейронов и 100 млрд синапсов при потреблении примерно 2 кВт. В ней используется около тысячи специализированных нейросинаптических чипов, распределенных по нескольким стойкам. По масштабу это сопоставимо с крупными прототипами Intel, но при этом система укладывается в гораздо меньшую мощность. Китай одновременно поддерживает такие проекты государственным финансированием — в открытых оценках фигурируют суммы до 150 млрд долларов на ИИ и собственную микроэлектронику.

Западные компании внимательно следят за этим. Intel и IBM продолжают развивать свои архитектуры, IBM объявила о новом проекте NorthPole с инвестициями порядка 30 млн долларов. Европа и Япония тоже финансируют нейроморфные исследования, поскольку такие системы могут дать выигрыш на периферии, где нельзя поставить большой сервер и нужен мгновенный отклик.

Самое интересное начинается в промышленности. Нейроморфные чипы уже ставят на небольшие автономные устройства. В Технологическом университете Делфта собрали летательный аппарат с событийной камерой и платой на Intel Loihi. За счет событийной обработки и импульсной сети дрон обрабатывал данные до 64 раз быстрее, чем аналогичная модель на GPU, и тратил примерно в три раза меньше энергии. Для беспилотников и мобильных роботов это критично, потому что им нужны реакции в субмиллисекундном диапазоне.

Похожие результаты показывают системы технического зрения. Событийные камеры и спайкинговые процессоры хорошо подходят для линий производства, где надо считать детали на конвейере, отслеживать сварку и замечать вибрации оборудования. В описанных испытаниях такие системы успевали фиксировать дефекты в реальном времени и работать с точностью, сравнимой с дорогими виброметрами, но с гораздо меньшим энергопотреблением. Это открывает дорогу к датчикам, которые сами делают умный анализ прямо на месте, а не гоняют поток видео в облако.

Edge-устройства Интернета вещей получают от нейроморфики еще больший выигрыш. В одном из немецких кейсов на чипе Loihi обучили импульсную сеть для анализа вибрации насосов. Она выявляла неисправности с точностью около 97%, почти без пропусков, и при этом тратила на один вывод около 0,0032 Дж. Для сравнения, аналогичный расчет на x86-процессоре требовал больше 11 Дж. Разница примерно в тысячу раз — это то, что и нужно для датчиков, которые питаются от батареи и должны работать годами. BrainChip приводит похожие примеры для распознавания голосовых команд в автомобиле, где время реакции составляет миллисекунды, а потребление выражается в десятках микроджоулей.

Такой уровень эффективности важен на фоне роста числа подключенных устройств. По оценкам аналитиков, к 2027 году количество IoT-устройств приблизится к 29 млрд. Большинство из них не смогут позволить себе тяжелые ИИ-модели и постоянную связь с облаком. Именно поэтому в прогнозах Gartner и других исследовательских компаний появляется идея, что к концу десятилетия основная часть новых IoT-продуктов будет получать локальный ИИ. Маркетинговые отчеты сейчас оценивают рынок нейроморфных вычислений примерно в 28,5 млн долларов в 2024 году и ожидают рост до 1,32 млрд к 2030 году, то есть очень быстрый темп.

Автопроизводители видят ту же картину. В Mercedes-Benz изучают возможность внедрения нейроморфных систем в бортовые компьютеры и говорят, что так можно сделать вычисления для автономного вождения заметно быстрее и при этом снизить энергопотребление примерно на 90% по сравнению с современными решениями. На рынок выходят новые стартапы, крупные производители чипов включают нейроморфику в свои дорожные карты, а государственные программы США, Китая, ЕС и Японии создают для этих разработок длинные бюджеты.

Вывод простой. Нейроморфные edge-системы уже не выглядят экспериментом. Они показывают миллисекундные задержки и работают на милливаттах, поэтому хорошо ложатся в концепцию промышленного Интернета вещей, робототехники и умных фабрик. Как отметил один из исследователей Intel, речь идет об увеличении эффективности на порядок. Если текущий темп инвестиций сохранится, то нейроморфные чипы станут обычной опцией для устройств, которым нужна локальная обработка сигналов и ИИ без перегрева и без разрядки батареи.