24 сентября в 19:00 мск CyberED проведёт онлайн-встречу о применении ИИ-агентов в наступательной безопасности. Главной темой станет переход от экспериментальных сборок к системам, которые можно использовать для поиска и проверки уязвимостей.
Спикеры разберут устройство подобных агентов, их применение в пентесте и программах вознаграждений за уязвимости, а также появление соревнований с участием автоматизированных систем. В программу вошли изменения игровых сценариев Standoff 365 и требования к специалистам, которые хотят работать с такими инструментами.
ИИ-агент отличается от обычного чат-бота способностью последовательно выбирать и запускать инструменты, анализировать их вывод и планировать дальнейшие действия. Для безопасной работы ему необходимо заранее задать разрешённые цели, доступные команды, условия остановки и этапы, на которых требуется подтверждение человека.
Ограничения технологии проявились во время недавнего испытания CyberED и Standoff 365. Один учебный стенд атаковали 310 агентов, но полностью пройти заданную цепочку смогли 33 участника. Среди причин неудач организаторы назвали неверную оценку состояния цели, ошибки при ожидании ответа и отказ продолжать атаку после перезапуска инфраструктуры.
При этом автоматизированный поиск уязвимостей уже вышел за пределы учебных экспериментов. В финале организованного DARPA конкурса AI Cyber Challenge автономные системы проанализировали более 54 млн строк кода, обнаружили 18 реальных уязвимостей и подготовили исправления для 11 из них. Среднее время создания исправления составило 45 минут. Результаты одновременно показали возможности технологии и необходимость проверять выводы агента перед применением изменений.
В обсуждении примут участие директор по продуктам Standoff 365 в Positive Technologies Иван Булавин и генеральный директор CyberED, основатель Singleton Security Егор Богомолов. Оба спикера участвовали в соревнованиях Standoff в составе команды True0xA3.
