Google построила искусственную версию интернета с тысячами сайтов, среди которых есть онлайн-магазины, социальные сети и сервисы поиска услуг. Внутри виртуальной сети ИИ-агенты могут оформлять заказы, заполнять формы и выполнять другие повседневные задачи, пока инженеры проверяют, насколько легко обмануть искусственный интеллект и заставить его действовать против интересов пользователя.
Разработчики Chrome назвали испытательную среду Mirror Dimension («Зеркальное измерение»). Испытывать ИИ-агентов в обычном интернете сложно и небезопасно: содержимое сайтов постоянно меняется, а ошибка искусственного интеллекта может привести к отправке нежелательного сообщения, раскрытию личных данных или незапланированной покупке. В изолированной среде инженеры могут многократно повторять эксперименты в одинаковых условиях.
Чтобы сохранить реалистичность испытаний, Google разрешила агентам обращаться к привычным интернет-адресам. Например, когда искусственный интеллект пытается открыть YouTube, локальный сервер перехватывает запрос и загружает специально созданный сайт. Разработчики даже предусмотрели выпуск собственных цифровых сертификатов, чтобы Chrome не выдавал предупреждения о небезопасном соединении.
Наполнить виртуальный интернет помог сам искусственный интеллект. Google распределила работу между несколькими специализированными агентами: одни продумывают структуру сайтов, другие пишут код, третьи проверяют интерфейсы, ищут ошибки и отправляют страницы на доработку. В магазинах работают корзины и поля для промокодов, а оформление заказа проходит в несколько этапов.
В первую очередь инженеров интересует устойчивость ИИ к косвенным инъекциям инструкций. При подобных атаках злоумышленники прячут вредоносные команды в содержимом сайтов, рассчитывая, что искусственный интеллект примет чужие указания за часть пользовательского задания. Потенциально атакующий может заставить цифрового помощника раскрыть конфиденциальную информацию или выполнить действие без разрешения владельца.
Google может размещать скрытые команды в тексте, изображениях, элементах веб-страниц и ответах программных инструментов на любом этапе выполнения задачи. Во время первых испытаний разработчики обнаружили, что передовые модели способны распознать эксперимент даже по необычным параметрам в адресной строке. Инженерам пришлось изменить механизм внедрения вредоносных инструкций, чтобы не выдавать искусственное происхождение страниц.
По оценке Google, автоматизация позволяет ежедневно создавать более тысячи потенциальных тестовых сценариев на одного специалиста по безопасности, увеличивая производительность более чем в 30 раз по сравнению с ручной работой. В перспективе разработчики рассчитывают адаптировать испытательную среду для проверки ИИ-агентов, которые самостоятельно пишут код и взаимодействуют с более широким набором программных инструментов.
