Meta работает над собственным суперкомпьютером

Компания Meta пополнила список техногигантов, планирующих создать собственный суперкомпьютер на базе технологий искусственного интеллекта – высокоскоростную машину, предназначенную специально для тренировки систем машинного обучения. По словам Meta, ее новый AI Research SuperCluster (RSC) уже является одной из самых скоростных машин такого типа в мире, а к середине текущего года, когда все работы над ней завершатся, она станет самой быстрой.

«Meta разработала то, что мы считаем самым быстрым в мире суперкомпьютером ИИ. Мы назвали его RSC, что значит AI Research SuperCluster, и работа над ним завершится позднее в нынешнем году», – заявил глава компании Марк Цукерберг.

RSC будет использоваться для обучения самых различных систем Meta, начиная от алгоритмов модерации контента, выявляющих разжигающие ненависть сообщения в Facebook и Instagram, и заканчивая дополненной реальностью. Кроме того, RSC будет использоваться для создания метавселенной.

«RSC поможет исследователям Meta в области ИИ создавать новые улучшенные модели ИИ, способные обучаться на триллионах примеров, работать с сотнями различных языков, легко анализировать текст, изображения и видео, разрабатывать новые инструменты дополненной реальности и многое другое. Мы надеемся, что RSC поможет нам построить новые ИИ-системы, способные, например, обеспечивать голосовой перевод в режиме реального времени для больших групп людей, разговаривающих на разных языках, так что они смогут беспрепятственно работать совместно над исследовательскими проектами или играть в игры с дополненной реальностью», – сообщили инженеры Meta Кевин Ли (Kevin Lee) и Шубхо Сенгупта (Shubho Sengupta).

Работа над RSC началась полтора года назад. Инженеры компании с нуля создали различные части компьютера – системы охлаждения, питания, связи и кабелей. Фаза один RSC уже завершена, и в настоящее время компьютер состоит из систем 760 Nvidia GGX A100, содержащих 6080 связанных графических процессоров. По словам Meta, компьютер уже обеспечивает до 20 раз более высокую производительность при выполнении стандартных исследовательских задач в области машинного зрения.

До конца 2022 года будет завершена фаза два. К тому времени RSC будет состоять из 16000 графических процессоров и сможет обучать ИИ системы «с более чем триллионом параметров в наборах данных размером в эксабайт».