Один промпт вместо целой команды хакеров. Google предупредила о скором появлении автономных кибератак

leer en español

Один промпт вместо целой команды хакеров. Google предупредила о скором появлении автономных кибератак

Первые признаки автономных атак уже заметны в реальных инцидентах.

image

Google предупредила, что в ближайшие месяцы хакеры могут перейти к полностью автономным кибератакам. Уже сейчас ИИ-агенты без участия человека ищут уязвимости и создают эксплойты. Следующий шаг, по прогнозу исследователей, позволит проводить целые взломы по одной команде.

Специалисты Google Threat Intelligence Group (GTIG) и Mandiant изучили, как преступные и шпионские группировки применяют большие языковые модели. По их оценке, в течение одного–трёх месяцев могут появиться массовые, пока сравнительно простые атаки с минимальным участием оператора. Более сложные и скрытные операции исследователи ожидают в перспективе трёх–шести месяцев.

Признаки перемен уже заметны в реальных инцидентах. Злоумышленники используют платформы ARTEX, CAIRN, CyberStrikeAI и PentAGI, которые объединяют несколько ИИ-агентов. Программы самостоятельно планируют действия, запускают инструменты, проверяют результаты и выбирают следующий путь проникновения. Например, с конца августа по начало октября неизвестный атакующий применял модифицированную PentAGI для поиска слабых мест у организаций в Азии.

Особое внимание Google привлёк комплекс exploit_agent, обнаруженный на открытом подготовительном сервере злоумышленников. Система постоянно сравнивала исходный код веб-приложений до и после обновлений, выявляла исправленные ошибки, составляла эксплойты и пыталась применить их автоматически. На сервере также хранились похищенные сведения и инструменты для дальнейших действий после взлома.

Такая схема опасна скоростью. После выхода исправления атакующему не обязательно вручную разбирать патч и писать рабочий код. ИИ может сократить путь от публикации обновления до попытки взлома. При этом речь прежде всего об уже исправленных уязвимостях, которые остаются на серверах пользователей, а не о гарантированном самостоятельном поиске принципиально новых ошибок.

Исследователи привели и другой пример. При атаках на криптовалютные компании в Северной Америке и Европе злоумышленники меняли файл настроек Claude Code. Когда сотрудник запускал помощника для программирования, конфигурация инициировала загрузку бэкдора SOMBERMEME. Таким образом, инструмент разработчика превращался в канал проникновения внутрь организации.

В новом отчёте GTIG также описаны случаи LLMJacking, когда преступники захватывали облачные учётные записи ради платного доступа к нейросетям. В отдельных инцидентах расходы жертв превышали 100 тысяч долларов за день, а совокупные счета доходили до миллиона. Автоматизация, однако, пока оставляет заметные следы в журналах и сетевом трафике.

Практическую сторону подобных инструментов показывает обзор PentAGI, где разобраны взаимодействие ИИ-агентов и средства тестирования защищённости. Новые возможности не отменяют привычных мер защиты: быстрое обновление доступных из интернета систем и контроль действий автоматизированных помощников становятся ещё существеннее.

Рекламодатель
Реклама. АО «Позитив Текнолоджиз». ИНН 7718668887. 18+
Сайт рекламодателя: ptsecurity.com↗️
АО «Позитив Текнолоджиз»