Мини-стартап Numenta помог Intel стать лидером в области ИИ

Стартап Numenta сделал прорыв в сфере искусственного интеллекта, продемонстрировав, что процессоры Intel Xeon могут значительно превзойти лучшие из существующих процессоров в работе с задачами ИИ, применяя новаторский подход. Основываясь на ряде техник, объединенных под маркой Numenta Platform for Intelligent Computing (NuPIC), компания смогла достичь новых уровней производительности на традиционных процессорах в области ИИ, как сообщает портал Serve the Home.

Наиболее поразительным является то, что разработанный подход позволяет превзойти производительность ЦП и ГП, специально предназначенных для работы с искусственным интеллектом. Например, Numenta сравнила производительность своего решения с графическим процессором Nvidia A100, используя усовершенствованный 48-ядерный процессор 4-го поколения Sapphire Rapids от Intel. Во всех тестах усовершенствованный процессор показал более высокую производительность по сравнению с чипом Nvidia в плане общей пропускной способности. Результаты показали, что новый подход в 64 раза быстрее процессора Intel Xeon 3-го поколения и в 10 раз быстрее графического процессора A100.

Компания Numenta, известная своим нейробиологическим подходом к рабочим нагрузкам искусственного интеллекта, в значительной степени опирается на идею разреженных вычислений (sparse computing) – именно так мозг формирует связи между нейронами.

Большинство современных центральных и графических процессоров разработаны для плотных вычислений (dense computing), что является более «грубым» подходом по сравнению с контекстуальной обработкой данных, применяемой в мозге. Применение разреженных вычислений позволяет значительно повысить производительность, однако традиционные процессоры не могут эффективно работать в таком режиме без специализированных оптимизаций.

Решение Numenta основывается на применении технологий Advanced Vector Extensions (AVX)-512 и Advanced Matrix Extensions (AMX) к процессорам Intel Xeon. Технологии представляют собой расширения архитектуры x86, служащие дополнительными наборами инструкций, позволяющими процессорам выполнять более требовательные функции.

Сервис NuPIC от Numenta поставляется в виде Docker-контейнеров и может быть запущен на собственных серверах компаний. Технология может стать оптимальным решением для повторного использования уже развернутых процессоров в центрах обработки данных для задач ИИ, особенно учитывая длительные сроки ожидания поставок ведущих графических процессоров Nvidia A100 и H100.