ИИ начали намеренно натравливать на роботов и беспилотные автомобили, чтобы заставить машины ошибаться ещё до выхода на улицы. Американский стартап Laplace Intelligence создаёт виртуальные аварии и нестандартные ситуации, которые обычные испытания могут пропустить.
Компания из Анн-Арбора разрабатывает автоматизированные испытания по принципу «красной команды». Вместо поиска дыр в компьютерных сетях ИИ-агенты проверяют решения автономных машин и пытаются спровоцировать сбои. Разработчики рассчитывают находить опасные сценарии в симуляции, прежде чем робот столкнётся с ними рядом с людьми.
Laplace основали около года назад выходцы из Мичиганского университета Хоуи Сун и Генри Лю. Сун восемь лет исследовал методы испытания беспилотного транспорта, а в 2023 году вместе с Лю опубликовал научную работу в Nature. После публикации их разработкой заинтересовались производители автономных автомобилей, и исследователи решили превратить технологию в коммерческий продукт.
В основе платформы лежит дообученная модель Nvidia Cosmos, которая создаёт интерактивные цифровые копии реальных мест. Для реконструкции улиц система объединяет карты, изображения Google Street View и другие сведения. Так можно воспроизвести шоссе в Аризоне или пешеходный переход в Париже с сохранением реальных пропорций.
Разработчик может текстовой командой добавить на виртуальную дорогу плотное дневное движение. По словам Суна, платформа учитывает актуальные сведения о заторах от навигационных сервисов, включая TomTom. Причём виртуальные участники движения реагируют друг на друга, а не просто следуют заранее записанным траекториям.
Во время демонстрации Сун приказал испытательному автомобилю выехать на встречную полосу. Другая машина изменила движение, пытаясь избежать столкновения. Подобная реакция принципиальна для моделирования аварий, поскольку некоторые генеративные симуляторы позволяют виртуальным объектам проходить друг сквозь друга.
Главная ставка Laplace связана с агентами, которые сами придумывают сложные и редкие ситуации. Для поиска идей система может опираться на новости и полицейские отчёты о ДТП. Обычно разработчики беспилотников используют записи реальных поездок или вручную составляют сценарии. Для универсальных роботов готовых примеров ещё меньше, поэтому заранее предугадать все ошибки сложнее.
У стартапа уже есть платные заказчики, среди которых Isuzu, разработчик беспилотных грузовиков Bot Auto и Nvidia. Вместе с T-Mobile компания участвует в бесплатном пилотном проекте умного города в Сан-Хосе. Laplace также начинает сотрудничать с разработчиками человекоподобных складских роботов. Пока большинство контрактов рассчитано на отдельные проекты.
Как следует из истории стартапа, Laplace уже получает небольшую прибыль и ищет средства для расширения бизнеса. Среди конкурентов называют Applied Intuition, привлёкшую 1,2 млрд долларов. При этом виртуальный стресс-тест помогает обнаружить слабые места, но сам по себе не гарантирует безопасность машины на настоящей дороге.
