MTIA v2: новый чип Meta создан специально для показа рекламы

Компания Meta* объявила о запуске второго поколения своего ускорителя Meta Training Inference Accelerator (MTIA v2), который уже используется для улучшения рекомендательных систем в 16 странах. Новый чип в 3 раза производительнее и на 50% энергоэффективнее своего предшественника.

MTIA v2 разработан с учетом оптимального баланса вычислительной мощности, объема памяти и пропускной способности, что позволяет достигнуть максимальной эффективности работы моделей ранжирования и рекомендаций. Ускоритель оснащен сеткой из 64 процессорных элементов и способен обеспечить в 3.5 раза большую плотность вычислений по сравнению с MTIA v1, а при включенной разреженности производительность увеличивается в 7 раз.

Новинка создана с использованием 5-нм технологического процесса TSMC и имеет увеличенную частоту работы — с 800 МГц до 1,35 ГГц. Кроме того, в MTIA v2 предусмотрены улучшения в архитектуре, включая поддержку разреженных вычислений, увеличенный объем памяти и усовершенствованную сеть на кристалле (Network-on-Chip, NoC) с удвоенной пропускной способностью.

Важно отметить, что несмотря на значительное повышение мощности, новый чип не заменит полностью графические процессоры. По словам Марка Цукерберга, Meta планирует использовать 350 000 чипов Nvidia H100, а к концу года их количество достигнет 600 000.

Сравнение с конкурентами показывает, что MTIA v2 обеспечивает 7,8 тераопераций в секунду (Tera Operations Per Second, TOPS) на ватт (ТОПС/Вт), что превосходит показатели Nvidia H100 SXM (5,65 ТОПС/Вт) и значительно выше A100 SXM (3,12 ТОПС/Вт).

Meta активно использует программную платформу PyTorch и компилятор Triton для развертывания своих рабочих нагрузок на новом ускорителе, что позволяет избежать необходимости разработки специализированного ПО для конкретного оборудования. Meta также заявила о планах по дальнейшей разработке собственных микросхем, в том числе для поддержки систем генеративного ИИ в будущем.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.