Нейросеть способна за несколько минут прочитать пачку документов, написать скрипт и собрать убедительную презентацию.
Но есть проблема: результат может выглядеть убедительно, даже если внутри — выдуманный CVE, несуществующая команда или опасная рекомендация.
Разобраться, как безопасно применять ИИ в рабочих задачах, можно на открытом воркшопе CyberED.
Поэтому специалисту по ИБ недостаточно научиться «правильно промптить». Важно понимать, что можно ускорить с помощью ИИ, что нужно обязательно перепроверять и какие данные вообще нельзя передавать модели.
Именно это 6 августа в 19:00 МСК покажет Евгений Строев — вирусный аналитик Exness с 15-летним опытом в ИБ. Он работал в Positive Technologies, Group-IB, Т-Банке и Альфа-Банке, занимается пентестом и моделированием угроз и применяет LLM в рабочих проектах.
Главная часть встречи — не лекция, а живая демонстрация.
Евгений возьмёт обезличенные материалы пяти рабочих встреч по проверке безопасности нового продукта и прямо в эфире попробует собрать из них основу презентации для коллег. Участники увидят весь процесс: постановку задачи, первый ответ модели, поиск искажений, проверку чувствительных данных и ручную доработку.
Цель — сократить несколько дней механической сборки до нескольких минут работы над черновиком, не оставляя за нейросетью последнее слово.
Посмотреть программу и зарегистрироваться на воркшоп
А пока разберём семь задач, в которых особенно велик соблазн положиться на ИИ — и особенно высока цена ошибки.
Анализ CVE и технической документации
LLM может быстро пересказать большой документ и объяснить незнакомую технологию простыми словами. При нехватке времени это помогает. Но модель способна перепутать затронутые версии, придумать флаг запуска или сослаться на функцию, которой в действительности нет.
Такой ответ полезен как карта для дальнейшего поиска. Однако использовать его как подтверждённый факт без сверки с документацией вендора или другим первоисточником нельзя.
Решение о наличии уязвимости
Убедительное описание атаки ещё не означает, что она действительно работает. Особенно заметно это в bug bounty, куда уже попадают аккуратно оформленные, но невоспроизводимые AI-отчёты.
Нейросеть может выдвинуть гипотезу, указать на подозрительный участок или помочь разобраться в поведении системы. Но валидировать уязвимость, оценивать её влияние и отвечать за итоговый вывод должен человек.
PoC и рабочие скрипты
ИИ быстро готовит заготовки парсеров, API-запросов и Proof of Concept. Но экономия времени заканчивается, когда специалист запускает код, которого сам не понял.
Внутри могут скрываться небезопасная обработка ввода, некорректная работа с TLS, утечка секрета или разрушительная команда. Чем выше права и чем ближе production, тем дороже обходится слепой copy-paste.
На воркшопе будет видно, как Евгений отделяет полезный черновик от результата, который ещё рано показывать коллегам: зарегистрироваться на живую демонстрацию.
Правила детектирования
Sigma, YARA, DLP-правила и запросы к SIEM кажутся подходящими задачами для автоматизации. Модель знает синтаксис и способна быстро подготовить основу.
Но непроверенное правило может пропустить атаку или завалить команду ложными срабатываниями. Нейросеть не знает особенностей вашей телеметрии, инфраструктуры и допустимого уровня шума. Ответственность за всё это остаётся на инженере.
Threat modeling и security review
ИИ не устаёт перечислять угрозы и нередко замечает сценарии, которые команда не успела обсудить. Однако корпоративного контекста у него нет: модель не знает реальную архитектуру, компенсирующие меры, ограничения бизнеса и цену конкретного риска.
Сгенерированная модель угроз может стать хорошей повесткой встречи. Принимать её за готовый результат проверки опасно.
Отчёты и презентации
Здесь нейросеть выглядит особенно убедительно. Она превращает десятки страниц и разрозненные заметки в связную историю, формулирует выводы и раскладывает материал по слайдам. Но вместе с полезной структурой в документ могут незаметно попасть выдуманные решения, потерянные оговорки и сведения, которые не предназначались широкой аудитории.
Это центральный кейс воркшопа. Готового «правильного промпта» не будет: смысл как раз в том, чтобы увидеть живую работу специалиста — включая первый несовершенный результат и его проверку.
Автономные действия AI-агента
Чат-бот только предлагает. Агент уже может читать файлы, вызывать инструменты, менять код и выполнять команды. Вместе с автономностью растёт и возможный ущерб от неверного шага или prompt injection.
Чем опаснее действие, тем важнее ограничить доступы и оставить человеку точку подтверждения. Аргумент «модель справлялась раньше» не заменяет контроль.
Главный риск — не ИИ, а непроверенный результат
Полностью отказаться от нейросетей — значит добровольно тратить часы на задачи, которые уже можно ускорить. Передать им решение целиком — значит принять скорость за надёжность.
Рабочий подход находится посередине: ИИ готовит основу, специалист добавляет контекст, проверяет факты, оценивает безопасность и вручную доводит результат. На словах всё просто. Сложность начинается в конкретной задаче: что загрузить, как сформулировать требования, где искать искажения и в какой момент остановить модель.
6 августа в 19:00 МСК Евгений Строев покажет этот процесс в прямом эфире на материалах реального рабочего сценария. Тот же подход затем можно применять к отчётам, техническим требованиям, документации и скриптам.
Прийти на открытый воркшоп «ИИ в ИБ: кейсы и гайд по внедрению»
