ASUS запускает новый сервис «ИИ как услуга» на базе процессоров NVIDIA

Тайваньская компания Asus планирует представить сервис, который позволит компаниям использовать потенциал генеративного искусственного интеллекта (ИИ), сохраняя при этом контроль над своими данными.

Особенностью нового решения Asus под названием AFS Appliance является то, что вся аппаратная часть будет установлена на территории клиента — для обеспечения безопасности и контроля. Платформа для вычислений с помощью ИИ, построенная на технологии чипов Nvidia, будет управляться и обновляться с новыми данными компанией Asus.

Одной из главных проблем таких сервисов, как OpenAI, является то, что они работают через облачные ЦОДы, которые могут раскрывать конфиденциальную информацию. Например, Samsung запретила своим сотрудникам использовать ChatGPT после того, как обнаружила, что работники загружали в чат-бот секретный код продуктов компании.

Asus загрузит в AFS Appliance свою собственную большую языковую модель (LLM) Formosa, которая, по словам компании, эквивалентна ChatGPT 3.5 и обучена на "традиционном" китайском языке. Компания намерена установить цену на услугу около $6000 в месяц. Самое дорогое предложение, которое добавляет платформу суперкомпьютера Nvidia DGX, будет стоить около $10 000 в месяц.

ASUS планирует получить от 30 до 50 корпоративных клиентов на Тайване и выйти на международный рынок к концу этого года.

Глава облачного подразделения Asus видит большой интерес со стороны банков и больниц. В клиническом контексте генеративный ИИ поможет врачам быстрее документировать лечение и визиты пациентов, а также поможет объяснять диагнозы более понятным языком пациентам. Один из потенциальных клиентов — крупная юридическая фирма – приоритетом компании является регулярное обновление данных, что является частью услуги компании.