В 70 раз быстрее и в 238 раз дешевле топовых ИИ. Новую модель проверили на Doom

leer en español

4030
В 70 раз быстрее и в 238 раз дешевле топовых ИИ. Новую модель проверили на Doom

Чтобы сделать чат-бота быстрее, исследователи просто убрали из него... чат.

image

Иногда самый быстрый ИИ получается не из ускорения привычного чат-бота, а из отказа от самой идеи чата. Стартап TypeSafe AI представил модель Jev, которая принимает состояние задачи и сразу выдаёт структурированное решение. В демонстрации один запрос занял 0,114 секунды против 8,566 секунды у GPT-5.6 Terra, то есть более чем в 70 раз меньше.

Jev рассчитана не на разговор с человеком, а на работу внутри программ. Вместо свободного текста модель возвращает заранее заданные типы значений вместе с вероятностями и оценкой уверенности. Например, приложение может передать описание обращения клиента и получить вероятности того, что запрос относится к оплате, технической проблеме или продажам, без дополнительного разбора текста.

Обычная большая языковая модель строит ответ последовательно, предсказывая следующий токен после предыдущего. Jev формирует набор выходных значений параллельно, поэтому не тратит время на генерацию длинной строки. TypeSafe называет подход System One Models и обучает систему методом Reinforcement Learning for Calibrated Decisions, который ориентирован на быстрые вероятностные решения.

Разница особенно заметна в цене. TypeSafe установила тариф $0,042 за миллион входных токенов, а выходные данные пока не тарифицирует. По расчётам компании, в одном из сравнений Jev оказалась в 238 раз дешевле Fable 5.1. На фоне нынешних цен ИИ-моделей разрыв выглядит огромным, но прямое сравнение ограничено задачами, для которых подходит новый формат.

Самой наглядной проверкой стал Doom. Модель не анализировала изображение с экрана: движок передавал Jev структурированное текстовое состояние игры, после чего система выбирала действие. Демонстрация работала примерно с десятью запросами в секунду и обходилась примерно в $7 за час. TypeSafe признаёт, что специализированный бот сыграл бы лучше, поэтому тест показывает прежде всего скорость реакции.

Компания также заявляет, что Jev не галлюцинирует, однако формулировка требует оговорки. Модель не может выдать произвольный текст или значение неправильного типа, поскольку допустимая структура ответа задана заранее. Но Jev может выбрать неверный вариант или ошибочно оценить вероятность. Для ИИ-агентов такое ограничение уменьшает один класс сбоев, но не гарантирует правильность решения.

В собственных испытаниях рабочих процессов TypeSafe получила ещё более крупные коэффициенты: до 193,6 раза по скорости и до 444,6 раза по стоимости. Разработчики называют такие результаты верхней границей возможного выигрыша. Наборы задач готовила команда TypeSafe, а эталон строился по ответам крупных сторонних моделей, поэтому реальное преимущество ещё предстоит подтвердить независимыми тестами.

Главная ставка TypeSafe связана не с играми, а с автоматизацией. Jev должна классифицировать данные, маршрутизировать запросы, оценивать варианты, проверять другие модели и принимать короткие решения внутри программных цепочек. Такой ИИ можно вызывать много раз в секунду там, где обычный чат-бот слишком медленный, дорогой или непредсказуемый для работы без постоянного контроля человека.

Одновременно TypeSafe вышла из двухлетнего скрытого режима и привлекла $40 млн посевного финансирования во главе с DCVC. Компанию основал бывший сотрудник OpenAI Диогу Алмейда вместе с Эриком Гафни и Сашей Шэн. Jev стала первым публичным продуктом стартапа, доступ к которому пока открывают постепенно. Компания принимает разработчиков из списка ожидания.

Пока результаты показывают не появление универсального ИИ, который обогнал флагманы во всём, а другой компромисс между возможностями и затратами. Jev отказывается от свободной генерации текста ради ограниченных решений, низкой задержки и дешёвых вызовов. Насколько хорошо схема переносится с демонстраций на производственные системы, станет ясно после более широкого доступа и независимых тестов.

Реклама 18+
Рекламодатель
Реклама. АО «Позитив Текнолоджиз». ИНН 7718668887. 18+
Сайт рекламодателя: ptsecurity.com
Реклама