Вайб-кодинг с бэкдором в подарок. Поучительная история о том, как логи нейросетей превратились в отмычку для хакеров

6686
Вайб-кодинг с бэкдором в подарок. Поучительная история о том, как логи нейросетей превратились в отмычку для хакеров

Вредоносная сборка создавала SSH-ключи и механизмы автозапуска, которые не обязательно исчезали после удаления плагина.

image

Разработчики ИИ-редактора Cursor раскрыли цепочку взлома, которая началась с утечки ключа у подрядчика Fireworks AI и закончилась подменой расширения Claude Code. Вредоносную версию могли получить до 5000 пользователей, а похищенные данные открыли хакерам доступ к внутренним сервисам компании.

13 ноября Cursor опубликовала результаты двухнедельного расследования и объяснила, как злоумышленники добрались до инфраструктуры редактора. Первой точкой проникновения стала компания Fireworks AI, предоставляющая вычислительные мощности для обучения и запуска нейросетей. Хакеры получили ключ доступа, который Cursor ранее выдала подрядчику, и воспользовались им для копирования информации из общего облачного хранилища.

В хранилище находились журналы работы ИИ-агентов, преимущественно за 2025 год. Данные поступали из пользовательских сеансов с отключённым Privacy Mode и могли использоваться для обучения моделей. Проблема заключалась в том, что некоторые записи содержали незамаскированные ключи API и другие учётные данные. По оценке Cursor, журналы затронули менее 0,05% пользователей, а ключи API оказались раскрыты менее чем у 0,01% клиентов.

Обнаруженных секретов хватило для дальнейшего проникновения. Злоумышленники получили доступ к нескольким облачным сервисам, которыми пользовалась Cursor, и добрались до архивных репозиториев исходного кода, не связанных с рабочими версиями продукта. Среди доступной информации оказались переписка службы поддержки, контактные данные клиентов, статистика использования редактора, краткие записи разговоров с ИИ-агентами и учётные данные, ранее отправленные пользователями специалистам поддержки.

Самым опасным последствием стала атака на цепочку поставок программного обеспечения. Среди скомпрометированных учётных данных находился ключ, позволявший изменять содержимое кеша магазина расширений Cursor. 29 октября злоумышленники разместили там заражённые сборки Anthropic Claude Code версий 2.1.312 и 2.1.313. Пользователи, устанавливавшие расширение или получавшие обновление, могли загрузить вредоносный пакет вместо оригинального.

Подмена действовала приблизительно 11 часов, с 02:27 до 13:35 по тихоокеанскому времени 29 октября. За указанный период потенциально пострадали до 5000 человек, однако Cursor не утверждает, что все они действительно установили заражённую сборку. Хакеры изменили именно кеш распространения расширений. Оригинальный каталог Open VSX не содержал вредоносного кода, а инфраструктура Anthropic и официальное расширение Claude Code не были скомпрометированы.

Специалисты Microsoft разобрали вредоносный код и обнаружили механизм скрытого удалённого доступа. При запуске расширение собирало имя компьютера, учётную запись пользователя, сведения об операционной системе, рабочие каталоги, электронный адрес Git и публичный IP-адрес. Затем программа пыталась добавить SSH-ключ злоумышленников, включить службу удалённого подключения и установить соединение с подконтрольным сервером.

Для связи использовался обратный SSH-туннель. Компьютер жертвы самостоятельно подключался к серверу атакующих, после чего через созданный канал можно было попытаться получить доступ к локальной SSH-службе. Вредонос также создавал механизмы автоматического запуска, чтобы восстанавливать соединение после перезагрузки. На macOS применялся LaunchAgent, на Windows программа пыталась создать запланированное задание с резервным сценарием автозагрузки.

Полноценный удалённый доступ удавалось организовать не всегда. Исследователи Microsoft и специалисты Cursor обнаружили ошибки в коде, которые мешали запуску SSH-службы на большинстве компьютеров с Windows и macOS без административных привилегий. Однако программа всё равно могла записать посторонний SSH-ключ, создать файлы для закрепления в системе и передать сведения об устройстве. Наличие вредоносной сборки само по себе не доказывает, что атакующие получили управление компьютером.

После обнаружения подозрительной активности Cursor отключила скомпрометированные ключи, временно остановила магазин расширений и добилась блокировки сервера злоумышленников. Компания также предупредила клиентов, чьи данные могли оказаться раскрыты. Для пользователей заражённых версий опубликованы инструкции по проверке Windows и macOS, индикаторы компрометации и специальные сценарии очистки.

Простого удаления Claude Code недостаточно, поскольку вредонос создавал файлы и задания автозапуска за пределами каталога расширения. Пользователям, установившим версии 2.1.312 или 2.1.313 из магазина Cursor 29 октября, рекомендуют проверить систему на наличие постороннего ключа с пометкой svc-telemetry, удалить механизмы закрепления и завершить подозрительные SSH-соединения. Если заражение подтвердилось, необходимо также заменить потенциально раскрытые ключи и завершить соответствующие сеансы доступа с доверенного устройства.

Cursor утверждает, что злоумышленники не получили доступ к рабочей инфраструктуре редактора, официальным сборкам приложения, ключам подписи обновлений и репозиториям пользовательского кода. Не пострадали запросы, обрабатывавшиеся в реальном времени, и содержимое сеансов с включённым Privacy Mode. Других подменённых расширений проверка не выявила. Последнюю активность атакующих компания зафиксировала 1 ноября, причём попытка доступа была заблокирована.

После расследования Cursor полностью прекратила передачу запросов на обработку через Fireworks AI, отозвала доступ подрядчика к общим наборам данных и заменила внутренние учётные данные, включая те, для которых не обнаружила признаков компрометации. Компания заново развернула производственную инфраструктуру, перестроила магазин расширений, ужесточила сетевые ограничения для внешних поставщиков и расширила автоматический поиск секретов в исходном коде и других внутренних данных.

Проблемы Fireworks AI оказались значительно шире одного клиента. В бюллетене от 9 ноября поставщик подтвердил несколько эпизодов несанкционированного доступа в октябре. В частности, после компрометации стороннего облачного провайдера злоумышленники 24 октября проникли на машины разработчиков Fireworks. Расследование выявило доступ к служебным данным клиентов, платёжной информации, отдельным наборам данных и частично сформированным весам нейросетевых моделей.

Последствия затронули и другие компании. Notion подтвердила компрометацию записей диалогов с Notion AI, использовавшихся функцией Insights. По оценке сервиса, инцидент затронул менее 1% рабочих пространств. Uber также подтвердила утечку персональных данных и сведений о водительских удостоверениях через Fireworks AI. При этом публичные материалы не позволяют установить, что все эпизоды связаны с действиями одной группировки.

Fireworks связывает обнаруженную активность с финансово мотивированными киберпреступниками, которые похищают токены доступа к большим языковым моделям и перепродают возможность пользоваться чужими вычислительными ресурсами. Подобную схему называют LLMJacking. Однако конкретную группу, ответственную за проникновение в Cursor и распространение заражённого Claude Code, компании публично не назвали.

Расследование Cursor показало ещё одну опасность использования ИИ-инструментов разработчиками. Секреты, попавшие в запросы к нейросети, могут сохраняться в технических журналах, а затем передаваться подрядчикам для обучения или анализа моделей. В случае Cursor несколько незамаскированных ключей из старых записей позволили злоумышленникам последовательно проникнуть во внутренние системы и в конечном счёте подменить программное обеспечение, распространявшееся через доверенный магазин.

Рекламодатель
Реклама. АО «Позитив Текнолоджиз». ИНН 7718668887. 18+
Сайт рекламодателя: ptsecurity.com↗️
АО «Позитив Текнолоджиз»