Как Datadog спасает облачный бизнес от самодельных нейросетей.

Datadog готовится выпустить обновлённую ИИ-модель, которая, по замыслу компании, поможет избежать так называемого SaaSpocalypse - ситуации, когда клиенты используют искусственный интеллект для создания собственных инструментов вместо покупки готовых SaaS-решений.
Вендор средств мониторинга и наблюдаемости (observability) уже разработал модель Toto-Open-Base со 151 миллионом параметров. Согласно техническому описанию, модель обучена на более чем двух триллионах точек данных временных рядов - крупнейшем наборе предобучения среди всех открытых фундаментальных моделей для временных рядов. Все обучающие данные Datadog собрала в ходе работы собственных облачных сервисов мониторинга.
В разговоре с изданием The Register директор по продукту Янбин Ли рассказала, что компания уже работает над следующей версией модели, но рассматривает разработку не как самоцель. «Какова роль SaaS-компании? Постоянно двигать инновации в своей предметной области», - пояснила Ли. Для Datadog задача сводится к созданию модели, заточенной именно под наблюдаемость, а не к использованию универсальных языковых моделей общего назначения.
По словам Ли, собственный ИИ даёт Datadog два преимущества. Во-первых, искусственный интеллект становится частью платформы и не требует от клиентов оплаты токенов стороннего сервиса. Во-вторых, специализированные агенты точнее обнаруживают и предсказывают аномалии. Ли утверждает, что агент Datadog для обеспечения надёжности (site reliability) уже умеет расследовать инциденты, проводить анализ первопричин и предлагать меры по устранению неполадок.
На замечание журналистов о том, что операторы критически важных ИТ-систем вряд ли доверят агентам вносить изменения без присмотра, Ли согласилась: для завоевания доверия результаты работы ИИ должны быть объяснимы и проверяемы. Использование собственных моделей упрощает достижение прозрачности, а заодно позволило Datadog создать инструмент, отслеживающий работу ИИ-платформ и распознающий признаки галлюцинаций.
«Меня беспокоит не гонка в разработке моделей, а их практическое применение», - подчеркнула Ли и сравнила подход Datadog с носимыми устройствами для здоровья. Сегодня визит к врачу - дорогое и хлопотное дело, поэтому люди обращаются за помощью, только когда уже заболели. Умные часы с датчиками и ИИ-аналитикой позволяют выявлять проблемы на ранней стадии. Datadog стремится к такому же переходу - от эпизодической диагностики к непрерывному мониторингу ИТ-инфраструктуры.
По мнению Ли, в зоне риска от SaaSpocalypse находятся прежде всего узкоспециализированные «точечные» инструменты, в которых пользователи не работают постоянно, - именно такие продукты проще всего заменить самодельными решениями на базе ИИ. Datadog же, считает Ли, благодаря искусственному интеллекту превратилась из SaaS-сервиса в полноценную платформу -статус, к которому стремится каждый вендор, ведь уйти с платформы клиенту куда сложнее.