Критик для нейросети. Google встраивает в Chrome вторую ИИ-модель, чтобы та следила за первой

Chrome готовится к новой эпохе: теперь браузер учится работать с искусственным интеллектом как полноценный помощник, а не просто средство для просмотра сайтов. Вместе с этим появляются и риски — но команда разработчиков уже представила, как собирается защищать пользователей от неожиданных и неприятных последствий.

Главная угроза для таких «умных» браузеров — так называемые косвенные атаки через подстановку команд. Они могут скрываться в отзывах, рекламе или встроенных фреймах, и провоцировать ИИ-агента на действия, которые никто не просил: от сбора личных данных до попытки оплатить что-то без ведома владельца устройства. Чтобы такого не происходило, в Chrome запускается многоуровневая система защиты, в которой задействованы как правила, так и алгоритмы на базе искусственного интеллекта.

Один из ключевых компонентов — отдельная ИИ-модель, получившая название «Критик согласования с пользователем». Её задача — проверять каждый шаг, который хочет предпринять основной агент, и решать, действительно ли это соответствует тому, что задумал человек. Причём эта система изолирована от всех подозрительных веб-страниц — она не видит сам контент, а работает только с метаданными. Такой фильтр не даёт «заразить» ИИ извне и защищает даже от хитроумных атак.

Кроме того, Chrome теперь будет строже следить за тем, с какими сайтами может взаимодействовать агент. Вместо свободного доступа — чёткий список разрешённых адресов. Один набор сайтов разрешён только для чтения, другой — для действий вроде нажатия кнопок или заполнения форм. Без разрешения система просто не даст расширить этот круг, даже если агент сам попытается. Это важно, чтобы избежать «перепрыгивания» с безопасного сайта на вредоносный, где можно случайно передать конфиденциальные данные.

В случае потенциально опасных действий — например, входа на банковский сайт или попытки выполнить платёж — Chrome поставит всё на паузу и попросит подтверждение. Более того, при работе с Google Password Manager агент и вовсе не получит доступ к сохранённым паролям: пользователь сам должен будет завершить такие шаги.

В фоновом режиме идёт постоянная проверка всех страниц, которые видит агент, на наличие скрытых инструкций. Это отдельный механизм, работающий параллельно с основной моделью. Он блокирует любые подозрительные попытки повлиять на поведение помощника. Также продолжают работать привычные функции безопасности, включая защиту от фишинга и вредоносных сайтов.

Чтобы не упустить уязвимости, разработчики создали автоматическую систему тестирования, которая имитирует атаки в условиях песочницы. В ход идут как уже известные сценарии, так и новые, сгенерированные нейросетью. Особенно пристально команда следит за тем, что может попасть к агенту через соцсети или рекламные площадки — именно оттуда чаще всего приходят неожиданные угрозы.

Для тех, кто готов помочь в отладке безопасности, Google обновила правила своей программы вознаграждений. Теперь за серьёзную брешь в агентных возможностях Chrome можно получить до 20 тысяч долларов. Всё официально, с подробностями в обновлённом регламенте.

Новая архитектура — это только начало. В Google признают: идеальный баланс между удобством и защитой пока ещё ищется, и многое будет дорабатываться в процессе. Но уже сейчас в Chrome заложен фундамент, который не только усложняет жизнь злоумышленникам, но и делает взаимодействие с ИИ гораздо безопаснее.