Десять рабочих эксплойтов на 43 ИИ-агента. Представлен способ обойти все запреты без взлома самой модели

3293
Десять рабочих эксплойтов на 43 ИИ-агента. Представлен способ обойти все запреты без взлома самой модели
image

Проверка 43 реальных ИИ-агентов обнаружила сотни потенциально опасных связей между инструментами, причём десять сценариев удалось подтвердить рабочими эксплойтами. Исследователи выяснили, почему даже безобидная функция может незаметно открыть путь к краже данных и другим атакам.

17 ноября 2026 года группа исследователей представила систему ACaM для автоматического анализа возможностей ИИ-агентов. Авторы работы изучили программы, которые подключают языковые модели к файловым системам, учётным данным и внешним сервисам. Среди 43 проверенных агентов девять представляли собой многоагентные системы.

Главная проблема связана с расхождением между описанием инструмента и реальным поведением его кода. Разработчик может представить функцию как безопасный способ получить информацию, хотя реализация позволяет выполнять дополнительные операции. Исследователи называют подобное несоответствие Description-Code Inconsistency (DCI). Причиной бывает обычная ошибка разработчика или компрометация программного компонента.

Особую опасность представляет механизм capability laundering, при котором вредоносные возможности скрываются за безобидным описанием. Языковая модель выбирает инструмент для законной задачи, но вместе с полезным действием запускает незаявленные операции. Отдельно обманывать нейросеть необязательно. Агент способен следовать всем инструкциям, не подозревая о скрытом поведении подключённого кода.

Для поиска подобных угроз авторы создали ACaM, объединив анализ прав агента со статическим исследованием исходного кода и языковой моделью. Система сначала устанавливает технические факты, а затем использует ИИ для объяснения их смысла. Нейросеть не может отменить выводы статического анализатора, поэтому привлекательное описание функции не должно скрывать обнаруженные опасные возможности.

ACaM строит граф Agent Capability Property Graph (ACPG), который связывает инструменты, доступные ресурсы и потенциальные действия. Такой подход позволяет искать цепочки угроз, проходящие через несколько вызовов функций. Например, отдельные инструменты могут читать файлы и отправлять информацию наружу, а их последовательная работа создаёт путь для утечки. Оценка охватывает не только отдельные команды, но и связи между ними.

На 24 агентах с вручную размеченными свойствами ACaM достигла 98,3% по метрике macro-F1. При восстановлении специально внедрённых цепочек угроз результат составил 0,980, на восемь процентных пунктов выше сильнейшего конкурирующего метода. В полной выборке из 43 агентов исследователи нашли сотни структурных слабостей. Десять потенциальных путей атаки подтвердили экспериментальными эксплойтами, говорится в научной работе.

Авторы не утверждают, что все обнаруженные слабости уже используют злоумышленники. Результаты показывают, насколько опасно оценивать возможности агента исключительно по документации. Ранее исследователи уже демонстрировали, как доверительные связи между ИИ-агентами помогают передавать вредоносные команды. ACaM предлагает проверять доступные действия непосредственно по коду и искать опасные комбинации до появления реального инцидента.