Подключение ИИ-агента к рабочим сервисам превращает привычную интеграцию в постоянно меняющуюся цепочку доступа к данным, поскольку коннекторы ChatGPT и Claude могут незаметно получать новые функции и передавать информацию сторонним системам искусственного интеллекта.
Компания PromptArmor изучила 2517 коннекторов и выяснила, что за шесть недель с середины мая до конца июня изменились 931 из них, или 37%. Разработчики добавили в уже работающие интеграции 1686 новых инструментов, которые позволяют моделям читать, изменять и отправлять пользовательские данные. Ещё у 1127 инструментов переписали описания, от которых зависит решение ИИ об их запуске.
Особенно заметно расширились возможности коннектора Dropbox. В начале проверки он предоставлял восемь инструментов, а к концу уже 24. Число функций с правом записи выросло с трёх до десяти, а потенциально разрушительных действий, способных удалить или необратимо изменить данные, с нуля до четырёх. Одновременно изменились разрешения и появились дополнительные инструкции для модели.
Коннекторы также могут отправлять запросы другим поставщикам ИИ. PromptArmor проверила 7517 инструментов в 487 интеграциях Claude и обнаружила такую возможность у 189 коннекторов, то есть примерно у двух из пяти. Например, запрос к Zoom для поиска встречи может быть передан внешним моделям и системам обработки данных, которые использует сервис.
Из-за такой схемы компания может проверить безопасность Claude или ChatGPT, но не учесть дополнительные сервисы, которые подключает сторонний поставщик. Anthropic отдельно предупреждает, что подключённые сервисы обрабатывают информацию на собственной инфраструктуре и по собственным правилам, а настройки региона вычислений Claude на них не распространяются.
Специалисты PromptArmor считают, что коннекторы резко увеличивают возможный ущерб от атак на ИИ-агентов. Интеграции одновременно открывают доступ к конфиденциальным данным, недоверенному содержимому и действиям во внешних сервисах, поэтому одна вредоносная инструкция может затронуть переписку, документы и другие рабочие ресурсы.