Время фемтосекунд: прыжок в будущее GPU памяти

В свете растущих требований к производительности графических процессоров (GPU), особенно в области обучения больших языковых моделей, производители, такие как Samsung и SK hynix, исследуют новые подходы к передаче данных и памяти. Одним из ключевых направлений является использование фотоники для передачи данных на скоростях фемтосекундного уровня, что значительно превышает скорости текущих электронных интерфейсов.

Текущий стандарт, HBM3e, и предполагаемые стандарты HBM4 и HBM4e, направлены на увеличение пропускной способности и объема памяти, необходимых для современных GPU. Samsung рассматривает возможность использования фотонных интерпозеров, которые обеспечивают более быструю и энергоэффективную передачу данных. Одновременно компания ищет способы прямого соединения стеков HBM с процессором, что потребует эффективного теплового управления.

SK hynix также работает над концепцией прямого соединения HBM с логикой процессора. Этот подход предполагает совместное проектирование памяти и логики производителями чипов, что может привести к созданию проприетарных решений с перспективой блокировки поставщиков.

Таблица Б&Ф. Заголовки HBM4 и HBM4e выделены курсивом, поскольку они не являются официальными стандартами JEDEC.

Micron, занимающий оставшуюся часть рынка HBM, также активно разрабатывает HBM4 и HBM4e. Компания уже производит память HBM3e второго поколения и планирует в первом квартале 2024 года начать выпуск 36-гигабайтных чипов с 12-слойной структурой. Стандарт HBM4, ожидаемый к 2026 году, обещает удвоение ширины интерфейса до 2048 бит и пропускную способность более 1,5 ТБ/сек.

Эти инновации, нацеленные на увеличение скорости доступа к памяти и ее объема, могут стать ключевым фактором в сокращении времени обработки приложений, особенно в области машинного обучения. Однако выбор между стандартизированными решениями и проприетарными комбинированными дизайнами чипов HBM-GPU остается открытым вопросом для производителей.