«Эй, кожаные, у вас дыра в защите». ChatGPT нашёл лазейку в корпоративной сети и воспользовался ей «по полной»

Обычный рабочий вопрос неожиданно превратился в повод для серьёзного разговора о рисках искусственного интеллекта. Сотрудник небольшой компании Sola Security просто уточнил у ChatGPT настройки единого входа, но за доли секунды система успела получить доступ к сотням внутренних документов. Ситуация показала, как незаметно могут работать интеграции ИИ и насколько сложно контролировать такие процессы.

Инцидент произошёл через подключение к Google Drive. После одного запроса чат-бот за 42 миллисекунды извлёк более 400 файлов компании. В выборку попали дорожные карты продуктов, финансовые данные, клиентские планы и внутренние документы по безопасности. При этом никаких предупреждений или подозрительных действий система защиты не зафиксировала.

В Sola Security подчёркивают, что речь не идёт о взломе. Доступ произошёл через стандартное OAuth-подключение, которое сотрудники заранее одобрили. Подобные интеграции давно стали обычной практикой. Однако сама логика работы вызвала вопросы. Вместо точечного поиска нужного файла система фактически перебрала всё содержимое диска.

Компания обратила внимание на более широкую проблему — так называемый «теневой ИИ». Под этим понимают любые процессы с участием искусственного интеллекта, которые остаются вне поля зрения и контроля специалистов. Речь идёт не только о несанкционированных сервисах, но и о вполне официальных интеграциях, уже одобренных внутри организации.

Ситуация усугубляется тем, что выданные разрешения оказались слишком широкими. Одно согласие пользователя дало приложению доступ ко всем файлам, контактам и структуре корпоративного каталога. Такие токены продолжают работать неделями без повторной авторизации. В данном случае доступ оставался активным 21 день и был использован только после нового запроса.

Сам процесс проходил полностью на серверной стороне. Запросы к Google API выполнялись из облачной инфраструктуры, без участия устройства сотрудника. В результате данные переместились за пределы корпоративной среды — на сторонние серверы, где компания уже не могла их контролировать.

Среди специалистов нет единого мнения, считать ли произошедшее утечкой. Формально система действовала в рамках выданных разрешений. Однако Sola Security указывает на главный риск — отсутствие прозрачности. Данные покинули инфраструктуру компании, а обнаружить факт удалось случайно спустя недели.

Случай показал слабое место современных систем защиты. Большинство инструментов отслеживают действия пользователей, но не учитывают автономную работу ИИ через API. Когда данные перемещаются без участия человека, привычные механизмы контроля перестают работать.