До 64 ядер и 320 МБ кэша: Intel открывает новую главу развития ИИ с пятым поколением Xeon Scalable

14 декабря в рамках мероприятия AI Everywhere в Нью-Йорке Intel показала пятое поколение процессоров Xeon Scalable с улучшенной мощностью для машинного обучения. Новые процессоры имеют больше ядер, больший кэш и упрощённую архитектуру чиплетов, что, по мнению компании, сделает их лучшим выбором для искусственного интеллекта.

Intel объявила о значительном увеличении производительности новых Xeon по сравнению с предыдущим поколением Sapphire Rapids, особенно в области ИИ-инференсинга, где новинка в 1,4 раза быстрее.

В арсенале новых процессоров Emerald Rapids до 64 ядер и увеличенный до 320 МБ L3 кэш. Они поддерживают более быструю память DDR5 с показателями до 5600 МТ/с, обеспечивая пиковую пропускную способность 368 ГБ/с.

Особое внимание компания заострила на улучшении производительности в машинном обучении благодаря инструкциям Advanced Matrix Extensions (AMX). Intel заявляет, что новые Xeon могут обеспечить приемлемые задержки в работе с моделями машинного обучения до 20 миллиардов параметров.

Intel также подчеркнула использование на новых процессорах упрощённой архитектуры с меньшим числом чиплетов и большими вычислительными тайлами, что способствует снижению энергопотребления.

Однако, несмотря на все эти улучшения, Intel признает, что в более крупных ИИ-моделях, таких как GPT-3 со 175 миллиардами параметров, не говоря уже о GPT-4 с 1,76 триллионами параметров, могут всё же потребоваться специализированные ИИ-ускорители.

В перспективе Intel обещает новые процессоры с ещё большим количеством ядер и поддержкой более быстрой памяти на основе 7-нанометровой технологии Intel 3, включая Granite Rapids и Sierra Forest, ожидаемые в 2024 году.

Последние анонсы Intel включают компанию в конкурентную борьбу с другими производителями, включая AMD и разработчиков ARM-процессоров, также активно работающих над новыми решениями в области ИИ.