Попроси вежливо, и Claude все сделает. Хакер убедил ИИ украсть 150 гигабайт данных

Неизвестный злоумышленник использовал чат-бот Claude от компании Anthropic для атак на государственные структуры Мексики и в итоге похитил около 150 ГБ данных. В сеть, по данным расследования, могли уйти налоговые сведения, учётные данные сотрудников и другая служебная информация.

О случившемся сообщило агентство Bloomberg со ссылкой на Gambit Security. По данным компании, атаки начались в декабре и продолжались примерно месяц. Хакер использовал Claude, чтобы искать уязвимости в государственных сетях, писать сценарии для их эксплуатации и продумывать автоматизацию кражи данных.

Изначально чат-бот отказывался выполнять вредоносные запросы, но злоумышленник сумел обойти встроенные ограничения с помощью специальных формулировок. В результате Claude подготовил тысячи подробных отчётов с готовыми к исполнению планами. В них, как утверждают в Gambit Security, указывались конкретные внутренние цели и учётные данные, которые стоило использовать для дальнейшего продвижения по сети.

В Anthropic заявили, что проверили информацию, пресекли активность и заблокировали все связанные учётные записи. Представитель компании добавил, что новая модель Claude Opus 4.6 получила дополнительные инструменты, которые должны мешать подобному злоупотреблению.

Параллельно хакер, как утверждается, прибегал и к помощи ChatGPT от OpenAI. С его помощью он собирал сведения о том, как перемещаться внутри компьютерных сетей, какие учётные данные нужны для доступа к системам и как снизить риск обнаружения. В OpenAI сообщили, что зафиксировали попытки нарушить правила использования сервиса, и инструменты отказались выполнять подобные запросы.

Личность злоумышленника пока не установили. Атаки не связали с конкретной группировкой, однако в Gambit Security допустили, что за ними может стоять иностранное государство. При этом остаётся неясным, для чего планируют использовать похищенные данные.

Национальное цифровое агентство Мексики публично инцидент не прокомментировало, ограничившись заявлением о приоритете кибербезопасности. Власти штата Халиско утверждают, что их инфраструктура не пострадала и речь идёт только о федеральных сетях. В свою очередь Национальный избирательный институт Мексики также заявил, что в последние месяцы не фиксировал взломов или несанкционированного доступа.

Во время собственного анализа специалисты Gambit Security нашли как минимум 20 уязвимостей в системах, которые вряд ли заинтересованы выносить на публику. Это не первый случай, когда Claude фигурирует в крупных атаках. В прошлом году хакеры из Китая сумели заставить систему участвовать в попытках проникновения в десятки целей по всему миру, и часть из них оказалась успешной. На этом фоне отказ Anthropic от прежнего публичного обязательства не обучать новые системы без гарантии достаточных мер безопасности выглядит особенно неоднозначно.