У нейросети будет аппаратный надзиратель. Nvidia представила архитектуру OpenShell

leer en español

3861
У нейросети будет аппаратный надзиратель. Nvidia представила архитектуру OpenShell

Умным помощникам разрешат действовать самостоятельно, но оставят одну неприятную оговорку.

image

ИИ-агентам собираются дать свободу действий, но лишить права отключать собственную охрану. На конференции GTC в Берлине NVIDIA представила OpenShell Reference Architecture, эталонную архитектуру для запуска автономных помощников в корпоративных системах. Компания объединила вычисления, программные ограничения и аппаратный контур контроля, который не подчиняется агенту.

Архитектура распределяет задачи между тремя уровнями. Ускорители Vera Rubin выполняют нейросетевые модели, процессоры Vera обслуживают действия агентов и вызовы инструментов, а сетевые процессоры BlueField-4 контролируют соблюдение правил. Поведение помощника проверяется не только внутри программы, поэтому выход за разрешённые границы может пресекать отдельное устройство.

В основе лежит открытая среда OpenShell, которая изначально считает действия агента недоверенными. Изолированная «песочница» ограничивает доступ к файлам и процессам, Supervisor проверяет внешние запросы и работу с учётными данными, Gateway управляет окружениями, а Policy Prover проверяет, не выходят ли назначенные права за корпоративные ограничения.

За аппаратную часть отвечает NVIDIA Sentry на BlueField-4. Защитный механизм отслеживает обращения к модели, сети и файлам, а при нарушении правил способен изолировать агента за миллисекунды. Сам аппаратный надзиратель был анонсирован ещё в сентябре. Нынешняя новость касается готовой архитектуры, объединяющей уже представленные компоненты в масштабируемую инфраструктуру.

Разработчики предусмотрели работу с Linux, Kubernetes и Windows с контейнерами Microsoft Execution Containers, которые ограничивают действия помощников на уровне операционной системы. Поддержку архитектуры готовят CrowdStrike, Cisco и Palo Alto Networks, а производители серверов, включая Dell и HPE, создают совместимые системы. Также заявлена работа с облаками AWS, Azure и Google Cloud.

NVIDIA привела результаты испытаний CoreWeave. На процессорах Vera изолированные среды запускались более чем втрое быстрее, чем на сравниваемой платформе x86, а выполнение задач ИИ-агентов ускорилось в 1,8 раза. По итогам испытаний один серверный шкаф поддерживал свыше 11 тысяч одновременно работающих агентских окружений. Это результаты тестов, а не гарантия для всех задач.

ServiceNow уже выпустила корпоративного агента Arc с ограничениями OpenShell, но интеграцию AI Passport с аппаратным Sentry пока только готовит. Будущая функция должна позволить отзывать права примерно за секунду, не прерывая работу соседних процессов. NVIDIA объявила архитектуру доступной, однако конкретные возможности зависят от готовности интеграций и настройки инфраструктуры.