Загрузил документ — лишился «учётки». ИИ-помощник для юристов подставил под удар 200 тысяч компаний

В работе юридического помощника на базе искусственного интеллекта Vincent, разработанного компанией vLex, была обнаружена уязвимость, позволяющая злоумышленникам проводить фишинговые атаки через внедрение скрытого HTML-кода. Сервис используется более чем 200 тысячами юридических организаций по всему миру, включая ведущие международные юридические фирмы, что делает выявленную брешь потенциально опасной для широкого круга пользователей.

Как показало исследование команды PromptArmor, киберпреступники могут внедрять вредоносный код в текст документов, оформляя его в виде невидимого белого текста. Такие файлы, загружаемые в систему сотрудниками юридических команд в ходе подготовки к делам, активируют скрытые команды, когда Vincent AI начинает анализировать содержимое и цитировать обнаруженные фрагменты. В результате в окне браузера запускается фальшивое всплывающее окно, имитирующее интерфейс входа в систему vLex, предназначенное для кражи учётных данных пользователя.

Этот механизм получил название «экранной подмены» и заключается в наложении поддельного интерфейса на реальное содержимое страницы. Пользователь, не подозревая об атаке, вводит свои логин и пароль, тем самым передавая их злоумышленникам.

В описанном случае текстовая ловушка маскировалась под якобы цитату свидетеля, а Vincent AI по инструкции обрабатывал все такие цитаты, автоматически генерируя код, который обрабатывался браузером как часть официального интерфейса платформы.

Проблема усугубляется тем, что уязвимость может быть использована не только для фишинга, но и для выполнения JavaScript-кода, встраиваемого через гиперссылки и HTML-элементы. Это открывает возможности для скрытой передачи данных, угонов сессий, принудительных загрузок файлов и майнинга криптовалюты. Некоторые типы атак могут срабатывать каждый раз при открытии чата, даже без действий со стороны пользователя.

Возможен также захват токенов сессии, что позволяет злоумышленникам действовать от имени жертвы, включая доступ к хранимой внутри платформы информации. PromptArmor подчёркивает, что скомпрометированные документы не должны предоставляться всем сотрудникам организации и должны отмечаться как ненадёжные, если они получены из внешних источников. Также рекомендуется запретить загрузку файлов из непроверенных онлайн-ресурсов.

Компания vLex, как утверждают авторы отчёта, получила уведомление о проблеме и оперативно внедрила исправления согласно рекомендациям. Напомним, что в прошлом месяце сервис был приобретён компанией Clio — крупным поставщиком юридических IT-решений, а общее число клиентов платформы выросло до сотен тысяч.