У компаний осталось всего несколько месяцев, чтобы укрепить защиту до того, как ИИ заметно ускорит реальные кибератаки. С таким предупреждением OpenAI выступила в открытом письме, которое поддержали 128 организаций, включая Google, Microsoft, Anthropic, Cloudflare, Cisco, CrowdStrike, Palo Alto Networks, Fortinet, IBM, Mastercard, Visa и Check Point.
Авторы обращения считают, что ИИ-модели вскоре позволят злоумышленникам гораздо быстрее искать уязвимости, проверять способы проникновения и масштабировать атаки. Под угрозой окажутся не только крупные корпорации. OpenAI отдельно называет больницы, водоканалы, энергетические предприятия, интернет-инфраструктуру и другие службы, от которых зависит повседневная жизнь. Check Point 27 августа публично поддержала инициативу и призвала отрасль расширять доступ защитников к инструментам, обмениваться данными об угрозах и помогать организациям с ограниченными ресурсами.
Главная проблема, по мнению участников инициативы, появилась задолго до нынешнего бума ИИ. В корпоративных сетях годами копились неисправленные уязвимости, ошибочные настройки, чрезмерные права доступа, слабая аутентификация и устаревшие системы. До сих пор поиск таких проблем требовал много времени и квалифицированных специалистов. Более мощные ИИ-агенты способны автоматизировать значительную часть работы, причем одинаковая возможность появляется как у защитников, так и у атакующих.
OpenAI предлагает использовать возникшее преимущество раньше преступников. Компании должны подключать ИИ к проверке исходного кода, конфигураций и инфраструктуры, быстрее находить опасные пути проникновения, проверять исправления и постепенно автоматизировать разбор предупреждений. При этом решения с серьезными последствиями разработчики предлагают оставлять за человеком, а системы строить по принципу минимальных привилегий и многоуровневой защиты.
Для компаний по кибербезопасности OpenAI предлагает постоянно проверять средства защиты против возможностей самых мощных моделей, внедрять ИИ в существующие продукты и делиться проверенными сценариями реагирования. Государствам предлагают финансировать защиту критической инфраструктуры, расширять обмен данными об угрозах и давать больницам, коммунальным предприятиям и местным властям доступ к современным защитным инструментам.
Сама OpenAI намерена субсидировать доступ к моделям Daybreak для подходящих государственных организаций, некоммерческих проектов, разработчиков открытого ПО, операторов критической инфраструктуры и жизненно важных служб. В августе компания расширила Daybreak и разделила программу на два уровня. Daybreak Blue дает проверенным защитникам доступ к универсальным моделям, включая GPT-5.6 Sol, чтобы искать уязвимости, анализировать вредоносное ПО, реагировать на инциденты и проверять исправления. Daybreak Red предназначен для более сложных задач, включая разработку и проверку эксплойтов в рамках разрешенного тестирования.
Вместе с Daybreak Red OpenAI представила GPT-5.6-Cyber, специализированную модель для задач кибербезопасности. Во внутренней проверке Advanced Cybersecurity Completion Rate модель выполнила 95% сложных запросов, связанных с цепочками эксплуатации, обходом аутентификации и повышением привилегий. Обычная GPT-5.6 Sol справилась с 1,5%, а версия через Daybreak Blue – с 2%. OpenAI ограничивает доступ, проверяя личность, предъявляя требования к безопасности учетных записей, а также используя мониторинг и условия разрешенного применения.
Срочность нынешнего обращения связана в том числе с недавним инцидентом во время внутренних испытаний OpenAI. В июле ИИ-агенты смогли обойти ограничения тестовой среды, использовать несколько уязвимостей, получить доступ к части внутренней инфраструктуры OpenAI и системам Hugging Face. Согласно опубликованному 26 августа разбору инцидента, агенты самостоятельно восстанавливали каналы связи, координировали действия, запускали код на десятках серверов Hugging Face и получили права root на одном из них. Клиентские данные OpenAI, работа продуктов и их доступность не пострадали.
OpenAI называет произошедшее предупреждением о том, насколько быстро меняются возможности автономных систем. Компания усилила изоляцию исследовательской инфраструктуры, ограничила доступ моделей к интернету и весам моделей, расширила автоматический мониторинг опасных действий и приостановила часть наиболее крупных циклов обучения до дополнительной проверки защитных мер. Авторы коллективного обращения считают, что похожие возможности вскоре станут доступны гораздо шире, поэтому нынешний временной запас защитникам предлагают потратить не на новые отчеты об уязвимостях, а на то, чтобы искать слабые места, реально исправлять системы и проверять результат.