Grok-2: детище Маска бросает вызов цензуре в ИИ

Компания xAI запустила в бета-режиме новые модели Grok-2 и Grok-2 mini, которые могут генерировать изображения непосредственно в соцсети X* и не имеют контентных ограничений, как существующие модели.

Сейчас Grok-2 и его мини-версия находятся на стадии бета-тестирования на платформе Х*. В ближайшее время компания планирует сделать обе модели доступными через API для корпоративных пользователей, что привлечет внимание ИТ-специалистов и компаний, стремящихся интегрировать передовые технологии в свои проекты.

На ранней стадии разработки Grok-2 был протестирован под кодовым именем «sus-column-r» на платформе LMSYS, популярной среди разработчиков ИИ. Результаты оказались впечатляющими: модель превзошла Claude 3.5 Sonnet и GPT-4-Turbo, заняв лидирующие позиции по общему рейтингу Elo.

Некоторые пользователи во время тестирования функции генерации изображений отметили отсутствие ограничений на создание изображений политических деятелей. В преддверии президентских выборов в США это может стать поводом для давления на компанию с требованием внедрить фильтры и ограничения на использование технологии.

Кроме того, Grok 2 способен генерировать изображения, связанные с известными брендами и продуктами, что также вызывает интерес у пользователей и отличает модель от конкурентов.

Для генерации изображений Grok использует технологию FLUX.1 от Black Forest Labs, однако детали о реальных возможностях Grok-2 пока не до конца раскрыты. Эксперты отмечают, что Grok-2 лучше справляется с созданием кода, написанием текстов и новостей, хотя подтверждений этому пока немного.

Отсутствие ограничений на генерацию изображений вызывает опасения о том, что Grok может стать инструментом для создания дезинформации как в X, так и на других платформах. Однако пока неизвестно, встраивает ли Grok метаданные в изображения, которые укажут на работу искусственного интеллекта. Эта важная деталь может сыграть ключевую роль в борьбе с распространением фейковых новостей.

В будущем xAI планирует внедрить Grok-2 и Grok-2 mini в другие ИИ-функции на платформе X, включая улучшенные возможности поиска, аналитику постов и функции ответов. Другими словами, на платформе вскоре появятся ответы, генерируемые искусственным интеллектом.

Grok-2 был разработан с акцентом на улучшение способности следовать инструкциям и предоставлять точную информацию. Внутренние тесты показали значительные улучшения в умении моделировать рассуждения и работать с инструментами, например, точно идентифицировать недостающие данные и логически выстраивать цепочки событий.

Кроме того, модель показала превосходные результаты на академических тестах по таким дисциплинам, как математика, естественные науки и программирование. Grok-2 и Grok-2 mini значительно превзошли предыдущую версию Grok-1.5, приблизившись к уровню лучших мировых моделей в таких областях, как общие знания и визуальные задачи, включая решение математических задач на основе изображений и анализ документов.

* Социальная сеть запрещена на территории Российской Федерации.