Хакеры скоро получат идеальное оружие. Apple и Google натравили ИИ на собственный код, чтобы спасти интернет

Крупнейшие ИТ–компании решили заранее занять оборону в новой фазе кибервойны, где уязвимости в коде начинают искать уже не люди, а очень сильные ИИ–модели. Для этого Amazon Web Services, Anthropic, Apple, Google, Microsoft, NVIDIA и ещё ряд участников запустили Project Glasswing – инициативу, которая должна помочь защитить критически важное ПО до того, как похожие инструменты массово окажутся в руках атакующих.

Повод у проекта вполне конкретный. Внутренние испытания новой модели Anthropic под названием Claude Mythos Preview показали, что она умеет находить и использовать программные уязвимости на уровне, который уже превосходит почти всех людей, кроме самых сильных специалистов по этой теме. По данным компании, модель уже выявила тысячи серьёзных проблем в широко используемых системах, включая крупные операционные системы и веб–браузеры. Для отрасли это выглядит как очень неприятный сигнал: инструменты такого класса перестают быть далёкой теорией и начинают влиять на реальную безопасность.

В Anthropic и компаниях–партнёрах считают, что рубеж уже пройден. Если раньше подобные возможности выглядели как что–то экспериментальное, то теперь речь идёт о моменте, когда ИИ может резко снизить порог входа в кибератаки, увеличить их масштаб и сделать их сложнее. Главная тревога связана с тем, что такие возможности довольно скоро могут выйти за пределы контролируемой среды и начать распространяться шире, в том числе среди тех, кто не собирается использовать их осторожно.

Project Glasswing строится на довольно прямой идее: использовать наступательные возможности ИИ в оборонительных целях. Участники проекта будут применять модель для поиска слабых мест, тестирования систем и устранения найденных дыр до того, как ими воспользуется кто–то другой. В фокусе – поиск уязвимостей, тесты на проникновение, защита конечных точек и дополнительное укрепление программных систем. Отдельно оговаривается и обмен результатами между участниками, чтобы выводы не оставались внутри одной компании, а усиливали защиту во всей отрасли.

Состав проекта шире, чем список самых заметных брендов в анонсе. Помимо Anthropic, AWS, Apple, Google, Microsoft и NVIDIA, в него вошли Broadcom, Cisco, CrowdStrike, JPMorganChase, Linux Foundation, Palo Alto Networks и другие организации. Всего к инициативе подключили ещё более 40 структур, которые поддерживают критическую инфраструктуру и открытое программное обеспечение. Anthropic пообещала выделить на работу до 100 миллионов долларов в виде кредитов на использование своих мощностей.

Логика понятна: если уязвимости в больничных системах, инфраструктуре, госресурсах и базовом ПО скоро сможет находить ИИ, то защитникам придётся отвечать теми же средствами и очень быстро. Иначе баланс начнёт сдвигаться в сторону атакующих. На фоне того, что киберпреступность уже сейчас ежегодно обходится мировой экономике в сотни миллиардов долларов, а атаки на больницы, инфраструктуру и государственные системы продолжают расти, ждать здесь никто не хочет.

Участники проекта отдельно подчёркивают, что такую задачу не решить силами одной компании. Нужны одновременно разработчики передовых ИИ–моделей, производители ПО, исследователи безопасности, сопровождающие открытых проектов и государственные структуры. Поэтому Glasswing задуман не как точечный эксперимент вокруг одной модели, а как попытка выстроить координацию между разными частями отрасли, пока окно для подготовки ещё не закрылось.

Скорость здесь играет почти главную роль. В Anthropic считают, что возможности передовых моделей в ближайшие месяцы вырастут ещё сильнее. Значит, у защитников остаётся не так много времени, чтобы адаптироваться раньше, чем похожие инструменты станут обычным оружием в наступательных операциях. По этой причине Project Glasswing подают не как спокойную долгосрочную программу, а как экстренную попытку включить ИИ в защиту до того, как рынок атакующих начнёт пользоваться такими системами на полную.

Первые результаты компания обещает опубликовать в течение 90 дней. В отчёт должны войти сведения об исправленных уязвимостях и выводы, которые можно раскрыть без вреда для безопасности. Параллельно проект предусматривает финансирование групп, занимающихся безопасностью открытого ПО, и взаимодействие с государственными ведомствами. В США власти уже начали обсуждать с Anthropic последствия, которые может иметь появление таких моделей.