Открытый код и 405 млрд параметров: Llama 3.1 открывает ИИ-сингулярность

Meta* делает значительный шаг к открытому будущему искусственного интеллекта, представляя новые версии моделей Llama 3.1. Вдохновленная успехом Linux в мире операционных систем, Meta стремится сделать открытый ИИ новой отраслевой нормой.

В новом релизе представлены три модели: Llama 3.1 405B, Llama 3.1 70B и Llama 3.1 8B. Флагманская версия Llama 3.1 впечатляет своими техническими характеристиками: 405 миллиардов параметров и обучение с использованием 16 000 мощных графических процессоров Nvidia H100. Стоимость разработки не разглашается, но эксперты оценивают её в сотни миллионов долларов.

3 модели с различным количеством параметров

Meta уверена в превосходстве Llama 3.1 над известными моделями GPT-4o и Claude 3.5 Sonnet. Более того, Meta активно интегрирует Llama 3.1 в свой ИИ-помощник Meta AI, расширяя его доступность в разных странах, добавляя поддержку новых языков и внедряя больше функций, например, генерацию изображений с использованием внешности пользователя «Imagine Me». Генеральный директор Meta Марк Цукерберг уверен, что к концу 2024 года Meta AI превзойдет по популярности ChatGPT со 100 миллионов подписчиков.

Стоимость API Llama 3.1 (цена за миллион токенов)

Несмотря на значительные инвестиции, Цукерберг делает ставку на открытый исходный код, проводя параллель с Linux – модели с открытым кодом имеют значительное преимущество в развитии, так как совершенствуются усилиями широкой общественности разработчиков. Цукерберг заявил, что выпуск Llama 3.1 станет переломным моментом, и большинство разработчиков выберут открытый исходный код.

Meta уже сотрудничает с более чем 20 компаниями, включая Microsoft, Amazon, Google, Nvidia и Databricks, чтобы ускорить внедрение Llama 3.1. Компания предоставляет доступ к весам модели, чтобы разработчики могли адаптировать её под свои задачи, используя собственные данные. По заявлению Meta, эксплуатация Llama 3.1 обходится значительно дешевле, чем аналогичные закрытые модели.

Компании-партнеры поддерживают определенные части работы модели

Meta позиционирует Llama 3.1 не просто как новую ИИ-модель, а как инструмент, способный трансформировать всю отрасль. Компания активно внедряет новую разработку в свой ИИ-ассистент Meta AI, планируя расширить его функциональность, интегрирует технологию в VR-гарнитуру Quest и умные очки Meta Ray-Ban.

Одним из ключевых аспектов стратегии Meta является сотрудничество с правительствами и партнерами для обеспечения лидерства в области ИИ. В условиях, когда ИИ имеет потенциал для значительного влияния на экономический рост и научные исследования, открытые модели ИИ предоставляют более равные возможности для всех.

Компания убеждена, что будущее за открытыми экосистемами, где разработчики и предприятия могут свободно развивать свои решения, не опасаясь замкнутых экосистем и зависимости от конкретных поставщиков. Открытые модели Llama предоставляют возможность каждому развивать свои проекты, повышая безопасность и инновации.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.