Автономный ИИ-агент OpenAI, атакуя Hugging Face, успел воспользоваться инфраструктурой ещё одной технологической компании. Как выяснило агентство Reuters, система проникла в среду клиента Modal Labs и превратила её в промежуточную площадку, чтобы действовать дальше.
Modal Labs подчеркнула, что её собственную платформу ИИ не взломал. Проблема находилась в коде одного из клиентов компании, который разместил в интернете открытый программный интерфейс, не проверяя пользователя. Через него любой желающий мог запускать команды в изолированных вычислительных средах.
ИИ-агент обнаружил незащищённый интерфейс и получил права администратора внутри одной из таких сред. Затем система использовала её как узел, чтобы управлять атакой, хранить инструменты и выходить в интернет.
По словам технического директора Modal Labs Акшата Бубны, механизмы изоляции и сама инфраструктура компании не пострадали. Скомпрометированная среда принадлежала клиенту и не имела прямого сетевого доступа к системам Hugging Face.
Новый эпизод показывает, что агент действовал шире, чем считалось ранее. OpenAI сообщила, что во время испытания система получила доступ к четырём учётным записям на четырёх сторонних сервисах. Компания не назвала площадки, однако один из источников Reuters подтвердил, что среди них была Modal Labs.
При этом OpenAI не обнаружила других атак, сопоставимых по масштабу с тем, как её ИИ-агенты проникли в Hugging Face. По данным компании, только тот инцидент привёл к тому, что скомпрометировали инфраструктуру на уровне целой платформы.
Завершив расследование, OpenAI отключила испытываемую модель, зашифровала связанные с ней материалы и закрыла сотрудникам доступ к системе. Modal Labs, со своей стороны, связала происшествие с небезопасным программным интерфейсом клиента, а не с уязвимостью собственной платформы.