Ошибка 16-летней давности, которую не видел никто. ИИ просто прочитал код и все понял (в отличие от людей)

Anthropic объявила о запуске Project Glasswing, крупной инициативы по защите критически важного программного обеспечения. В проект вошли Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks. Поводом стал новый ещё не выпущенный языковой модельный комплекс Claude Mythos Preview, который, по словам компании, уже умеет искать и использовать уязвимости лучше, чем почти любой человек, кроме самых сильных специалистов.

Anthropic утверждает, что Claude Mythos Preview уже нашла тысячи опасных уязвимостей, включая ошибки в крупных операционных системах и веб-браузерах. Компания считает, что развитие таких систем идёт слишком быстро, а значит, похожие возможности скоро могут получить и злоумышленники. Последствия Anthropic описывает жёстко: рост числа атак, ущерб для экономики, риски для общественной безопасности и национальной безопасности.

Project Glasswing создали как попытку направить такие возможности в защиту, а не в нападение. Участники проекта будут использовать Claude Mythos Preview для оборонительных задач, а Anthropic пообещала делиться выводами с отраслью. Доступ к модели получили не только компании-участники, но и более 40 дополнительных организаций, которые разрабатывают или поддерживают важные программные и инфраструктурные системы, включая проекты с открытым исходным кодом. На работу в рамках инициативы Anthropic выделила до 100 млн долларов в виде кредитов на использование модели, а ещё 4 млн долларов направит напрямую организациям, которые занимаются безопасностью открытого программного обеспечения.

Компания описывает ситуацию как переломный момент для всей отрасли. Программное обеспечение, на котором держатся банковские системы, медицинские базы, логистические сети и электросети, всегда содержало ошибки. Многие сбои остаются незаметными годами, потому что поиск и эксплуатация таких проблем требовали очень высокой квалификации. Anthropic пишет, что современные языковые модели резко снизили порог входа и теперь умеют не только читать код, но и понимать, где скрываются уязвимости и как их можно использовать на практике.

По данным компании, за последние недели Claude Mythos Preview нашла тысячи уязвимостей нулевого дня, то есть проблем, о которых раньше не знали разработчики. Среди примеров Anthropic приводит 27-летнюю уязвимость в OpenBSD, позволявшую удалённо вызвать отказ системы, 16-летнюю ошибку в FFmpeg, которую автоматические тесты пропускали миллионы раз, а также цепочку уязвимостей в ядре Linux, с помощью которой обычный пользователь мог получить полный контроль над машиной. Все перечисленные проблемы, как утверждает компания, уже передали разработчикам и закрыли обновлениями.

Anthropic отдельно подчёркивает, что в ряде случаев Claude Mythos Preview работала полностью самостоятельно, без подсказок со стороны человека. Компания называет такой уровень опасным, но одновременно полезным для защитников. Логика простая: если система умеет находить и связывать уязвимости быстрее человека, тот же инструмент можно использовать, чтобы заранее закрывать слабые места в важном программном обеспечении.

Партнёры проекта уже несколько недель тестируют модель у себя. Cisco заявила, что старые подходы к укреплению систем больше не справляются с новой скоростью угроз. В Amazon Web Services рассказали, что применяют модель для проверки критически важного кода. Microsoft сообщила об улучшении результатов на собственных проверках безопасности. CrowdStrike предупредила, что окно между обнаружением уязвимости и атакой сужается с месяцев до минут. В Palo Alto Networks добавили, что злоумышленники рано или поздно получат похожие инструменты, поэтому защитникам нужно готовиться уже сейчас.

Anthropic не собирается открывать Claude Mythos Preview для широкого доступа. Компания прямо пишет, что модель слишком опасна для свободного распространения. В будущем Anthropic хочет запустить более безопасные версии систем такого класса и одновременно развивать защитные механизмы, которые будут отсекать наиболее рискованные ответы, связанные с кибератаками.

У Project Glasswing есть и практическая часть на ближайшие месяцы. Участники программы получат доступ к Claude Mythos Preview для поиска и исправления уязвимостей в базовых системах, которые формируют значительную часть общей мировой поверхности атаки. Речь идёт о локальном поиске уязвимостей, тестировании двоичных файлов по принципу «чёрного ящика», защите конечных устройств и проверках на проникновение.

После исследовательского этапа Anthropic собирается предоставлять модель участникам проекта по тарифу 25 долларов за миллион входных токенов и 125 долларов за миллион выходных токенов. Доступ обещают через Claude API, Amazon Bedrock, Vertex AI в Google Cloud и Microsoft Foundry. Кроме того, компания уже передала 2,5 млн долларов организациям Alpha-Omega и OpenSSF через Linux Foundation, а ещё 1,5 млн долларов получила Apache Software Foundation, чтобы сопровождающие открытые проекты могли быстрее реагировать на новые риски.

Anthropic обещает в течение 90 дней опубликовать первый отчёт о результатах Project Glasswing, рассказать о закрытых уязвимостях и обнародовать выводы, которые не навредят безопасности. Параллельно компания обсуждает тему с американскими властями и считает, что развитие таких систем уже стало вопросом государственной безопасности. В компании надеются, что вокруг Project Glasswing со временем появится более широкая коалиция с участием частного сектора и государства.

Название Project Glasswing отсылает к бабочке Greta oto с прозрачными крыльями. Anthropic использует этот образ как метафору для уязвимостей, которые долго остаются незаметными, и для прозрачности, которую компания считает необходимой в новой эпохе кибербезопасности.