Amazon представляет Bedrock — AI as a Service для разработчиков

Вчера Amazon Web Services (AWS) анонсировала новую API-платформу под названием Bedrock, на которой в облачных сервисах самой Amazon будут размещаться генеративные ИИ-модели, созданные ведущими стартапами, такими как AI21 Labs, Anthropic и Stability AI.

Популярность генеративного ИИ резко возросла благодаря разработке больших языковых моделей (LLM), способных создавать текст и изображения. Пока коммерческие инструменты, разработанные шумными стартапами вроде OpenAI и Midjourney, завоёвывали десятки миллионов пользователей, многие крупные компании, в том числе Amazon, просто наблюдали со стороны. Но сейчас время наверстать упущенное!

Пока Microsoft и Google соревнуются за то, чтобы как можно раньше внедрить генеративных чат-ботов в наборы для поиска и повышения производительности, стратегия Amazon заключается в том, чтобы оставаться относительно нейтральной на данном рынке.

Компания планирует просто предоставлять доступ к готовым ИИ-моделям на своей облачной платформе. Это прибыльный и удобный вариант как для вышеупомянутых стартапов, разработчиков продвинутых LLM, которые согласились работать с гигантом электронной коммерции, так и для разработчиков, которые будут использовать API и вычислительные ресурсы, необходимые для обучения и работы языковых моделей.

«Клиенты сказали нам, что сегодня на их пути стоят несколько серьезных проблем. Во-первых, им нужен простой способ получить доступ к высокопроизводительным языковым моделям, которые дают выдающиеся результаты и лучше всего подходят для их целей. Во-вторых, клиенты хотят, чтобы интеграция ИИ в их приложения была бесшовной, без необходимости управлять огромными кластерами инфраструктуры и нести большие расходы», — заявил Свами Сивасубраманиан, вице-президент AWS по машинному обучению, в своем блоге.

В настоящее время Amazon Bedrock предлагает большие языковые модели, способные обрабатывать и генерировать текст, включая модели Jurassic-2 от AI21 Labs, Claude от Anthropic и Stable Diffusion от Stability AI. Также AWS выпустила две собственные языковые модели под брендом Titan.

Теперь разработчики смогут создавать свои собственные продукты и услуги на основе ИИ при помощи этих API-интерфейсов, а также смогут точно настраивать модель для конкретных задач. Amazon заявила, что процесс настройки позволит компаниям лучше управлять своими данными, не беспокоясь о возможных утечках.

Amazon также продвигает свои собственные ИИ-чипы AWS Trainium и Inferentia для обучения и запуска этих моделей в своём облаке. Как сообщается, их использование поможет разработчикам сэкономить до 50% затрат на обучение.

Экземпляры Trn1, которые предлагает Amazon, оптимизированы для распределения обучения моделей между несколькими серверами и имеют пропускную способность сети до 1600 Гбит/с. Разработчики также могут запускать «ультракластеры» с масштабированием до 30 тысяч чипов Trainium для обеспечения вычислительной мощности более 6 экзафлопс.

Наконец, Amazon сделала свой ИИ-инструмент парного программирования CodeWhisperer бесплатным для использования. В него была добавлена поддержка десяти новых языков, включая Go, Kotlin, Rust, PHP, SQL и других, помимо имеющихся Python, Java, JavaScript, TypeScript и C#.

«Мы считаем, что CodeWhisperer теперь является самым точным, быстрым и безопасным способом создания кода для сервисов AWS, включая Amazon EC2, AWS Lambda и Amazon S3», — заявил вице-президент AWS по машинному обучению.