HPE и NVIDIA создадут новую ИИ-платформу для дата-центров

На своём ежегодном мероприятии Discover, проходящем в этом году в Барселоне, компания Hewlett Packard Enterprise (HPE) представила свою вторую платформу для генеративного искусственного интеллекта, разработанную в партнёрстве с NVIDIA.

Новая платформа носит название «enterprise computing solution for generative AI» (корпоративное вычислительное решение для генеративного ИИ) и представляет собой интегрированное решение, сочетающее в себе аппаратное и программное обеспечение HPE и технологии NVIDIA , включая GPU, сетевое оборудование и программное обеспечение для ИИ.

Отличительной чертой платформы является её ориентация на корпоративных клиентов, которые могут использовать её для настройки уже существующих моделей ИИ под свои потребности и последующего использования этих моделей для анализа данных. Основой платформы служит так называемая архитектура «rack-scale», которая объединяет множество компонентов в единую стойку в центре обработки данных. В качестве вычислительного основания выступают 16 серверов ProLiant DL380a Gen11 на базе процессоров Intel Xeon Scalable, оснащённых до четырёх GPU Nvidia L40.

Сетевые возможности платформы предоставляются благодаря коммутаторам Spectrum-X и сетевым адаптерам Nvidia на базе чипа BlueField-3 DPU. Платформа настроена таким образом, чтобы она могла тонко настраивать модель Llama-2 от Meta* с 70 миллиардами параметров. Программное обеспечение для инфраструктуры включает в себя HPE Machine Learning Development Environment, а также AI Enterprise suite и NeMo framework от Nvidia, предназначенные для создания разговорного ИИ.

В HPE подчеркивают, что ИИ требует новой архитектуры вычислений, и будущее будет требовать комплексного подхода, начиная с аппаратного обеспечения и заканчивая программным уровнем, для успешного внедрения приложений ИИ в организациях. Хотя стоимость новой платформы HPE и NVIDIA ещё не уточнена, ожидается, что она станет доступна для заказа в первом квартале 2024 года.

HPE также сообщила, что её среда машинного обучения теперь доступна как управляемая услуга в публичных облаках, что является частью стратегии компании по упрощению процесса обучения моделей ИИ. Кроме того, HPE улучшила своё предложение Greenlake для файлового хранения, адаптируя его под потребности задач ИИ. В планы входит расширение возможностей хранения данных до 250 петабайт и добавление поддержки сетевых технологий Nvidia Quantum-2.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.