В новой версии ИИ-платформы «ИТ-Экспертизы» появились инструменты расчёта стоимости запросов, маршрутизации и контроля загрузки моделей. На примерах показываем, как они помогают организовать работу корпоративного ИИ.
Пока ИИ тестирует небольшая группа сотрудников, достаточно выбрать и подключить подходящую модель. Когда к работе подключаются целые подразделения, возникают новые вопросы: кто сколько ресурсов расходует, почему запросы ждут в очереди, как распределять нагрузку и какие внутренние документы можно передавать модели.
Версия 0.16 «Когнитума», выпущенная 8 октября 2026 года, предлагает инструменты для решения этих задач. Платформа позволяет задавать правила обработки запросов, рассчитывать их стоимость, отслеживать нагрузку и предоставлять ИИ доступ к корпоративным знаниям с учётом прав пользователя. При этом сотруднику не нужно разбираться в инфраструктуре: он работает в чате или с ИИ-агентом.
Затраты на ИИ: от токенов к денежной оценке
Расходы на корпоративный ИИ не сводятся к покупке видеокарт или оплате внешних сервисов. Каждый запрос требует вычислительных ресурсов, а с ростом числа пользователей оценивать общее потребление становится сложнее. «Когнитум» и прежде показывал расход в токенах, условных единицах объёма обрабатываемого текста. В версии 0.16 появились тарифы, денежный учёт и лимиты.
Администратор может задать тарифные ставки для входящих и исходящих токенов, учесть использование кэша и установить ограничения на день, неделю или месяц. Тариф назначается организации, подразделению или отдельному сотруднику. При исчерпании лимита заранее выбранное правило определяет дальнейшие действия: переключение на резервную модель, перевод задачи в фоновый режим или отказ в выполнении запроса.
Например, для повседневных справочных задач можно выделить один набор моделей и лимитов, а для аналитической команды с более ресурсоёмкой работой – другой. Это возможный вариант настройки, а не пример реального проекта заказчика.
ИТ-руководитель получает отчёты по подразделениям, сотрудникам, моделям и назначению запросов. Можно оценить расход на чаты, агентов и базы знаний, проследить динамику потребления и выявить перегруженные модели. Каждый сотрудник видит остаток своего лимита, но не финансовые данные компании.
Денежные показатели рассчитываются по заданным тарифным ставкам и предназначены для внутреннего учёта и планирования. Они сами по себе не подтверждают экономию и могут отличаться от сумм в счетах внешних провайдеров
Одна точка доступа вместо ручного выбора модели
Локальные и внешние модели подходят для разных задач. При этом одни запросы обрабатываются сразу, другие попадают в очередь, а отдельные модели могут временно быть недоступны.
В версии 0.16 появились пулы моделей. Для сотрудника пул выглядит как одна «корпоративная модель», хотя в действительности объединяет несколько локальных и внешних моделей. ИТ-служба задаёт правила: в какую группу направлять запрос, какую модель выбирать первой, когда переключаться на резервную и какие ограничения соблюдать.
При выборе маршрута учитываются, например, требуемый объём текста, возможность работы с изображениями и инструментами, назначенный тариф и доступность вычислительных ресурсов. Маршрут можно проверить ещё до обращения к модели: администратор видит, куда пойдёт запрос и почему.
Сотруднику не приходится выбирать из длинного списка моделей и выяснять, какая из них перегружена. Маршрутизация настраивается централизованно, а мониторинг показывает очереди и занятость ресурсов. Это не автоматический поиск самой дешёвой модели: распределение определяется правилами, установленными компанией.
Конфиденциальные данные: как контролировать передачу внешним моделям
Выбор модели в корпоративной среде зависит не только от её возможностей, но и от того, какие данные ей разрешено обрабатывать. «Когнитум» устанавливается в инфраструктуре заказчика и поддерживает локальные модели. При работе только с ними платформа может обходиться без подключения к интернету. Внешние модели используются по решению компании.
Для запросов с чувствительной информацией можно настроить маршрут только через локальные модели. Если компания допускает использование внешнего сервиса, дополнительный механизм обезличивания позволяет заменять распознанные имена, реквизиты и другие сведения специальными метками. После получения ответа исходные значения могут быть восстановлены.
Например, при подготовке делового письма могут понадобиться имя сотрудника и реквизиты контрагента. С включённым и настроенным обезличиванием внешняя модель получает метки вместо распознанных данных. Этот механизм не заменяет классификацию информации, разграничение доступа и другие требования информационной безопасности.
ИИ работает с корпоративными документами, а не только отвечает на вопросы
Версия 0.16 расширила возможности работы с документами. Модель может обращаться к базам знаний, доступным пользователю: искать сведения по смыслу и точному совпадению, просматривать папки, читать документы целиком, а при наличии прав добавлять и обновлять материалы.
В презентации показан поиск по договорам условий о неустойке 0,1% за день просрочки. Пользователь задаёт вопрос в чате, вместо того чтобы по очереди открывать файлы. Модель находит нужные документы, извлекает соответствующие положения и сравнивает найденные условия и приводит ссылки на исходные документы. Это демонстрационный пример, а не описание внедрения у заказчика.
Работа с базами знаний ограничена правами пользователя. Для удаления документа нужно отдельное подтверждение. Это особенно важно, когда ИИ не только читает, но и помогает готовить или обновлять материалы.
Длинный диалог можно продолжать в том же чате
При длительном общении с моделью переписка постепенно заполняет её контекстное окно – объём текста, который она может учитывать одновременно. В прямом чате «Когнитум» показывает заполнение этого окна. При достижении заданного порога ранние сообщения автоматически превращаются в краткий конспект для модели. По умолчанию порог составляет 90%; его можно изменить. Сжатие можно запустить и вручную.
При этом для сотрудника вся переписка остаётся видимой. Он может продолжить разговор в том же чате, хотя модель получает сокращённое изложение ранних сообщений. Автоматическое сжатие в релизе 0.16 доступно в прямом чате с моделью.
ИИ не только отвечает, но и выполняет задания по расписанию
Автоматизация регулярных задач появилась ещё в версии 0.15.1. Сотрудник один раз формулирует задание для модели или ИИ-агента, настраивает расписание и получает результат в чате платформы, по электронной почте или в мессенджерах Telegram и Rocket.Chat.
Например, агенту можно поручить каждое буднее утро готовить сводку по доступным ему заявкам или раз в неделю проверять изменения в определённых документах. Платформа сохраняет историю запусков, а администратор может контролировать задания и при необходимости их останавливать. Подключения на основе MCP (Model Context Protocol, протокол взаимодействия ИИ с внешними инструментами) позволяют работать с Jira, Confluence, GitLab и корпоративной почтой. Готовые серверы для некоторых систем доступны отдельно и требуют подключения и настройки.
Повторяющиеся задачи не нужно каждый раз запускать вручную. При этом ИИ-агент использует только предоставленные ему инструменты и действует в пределах выданных прав.
Что меняется для компании
Обновления формируют единый контур управления корпоративным ИИ. ИТ-служба получает учёт потребления и стоимости, сведения о загрузке моделей, централизованную маршрутизацию, управление доступом и журналы действий. Сотрудники получают единое рабочее место, доступ к корпоративным знаниям в пределах своих прав и возможность поручать повторяющиеся задачи ИИ-агентам.
«Когнитум» не разрабатывает собственную универсальную языковую модель и не заменяет существующие решения. Его задача – связать модели, корпоративные данные, инструменты и пользователей едиными правилами. Это особенно важно, когда ИИ переходит из стадии экспериментов в повседневную работу компании.
Подробнее о платформе «Когнитум», возможностях развёртывания и интеграции: https://cognitum.it-expertise.ru/
