Утром выходит уязвимость, к вечеру появляется PoC, а по логам видно, что её эксплуатируют уже два дня. Времени на защиту в привычном смысле не осталось, и инженеру, который всё ещё ждёт, заменит его AI или нет, в такой ситуации нечем ответить.
Какой инженер нужен рынку, когда правила меняются так быстро, 5 ноября в 19:00 МСК обсудят Владимир Дрюков, директор по услугам и технологиям Innostage, и Егор Богомолов, CEO CyberED. Зарегистрироваться на онлайн-интервью можно уже сейчас, а ниже разберём, чем опасно ожидание и как из него выйти.
Почему ожидание проигрывает
Атака подешевела. Подписка на модель, которая даёт атаку профессионального уровня, стоит около 27 долларов. Известен случай, когда AI-агент за сутки сгенерировал 17 млн событий. Атакующим не нужно ждать зрелости технологий: они пользуются тем, что есть.
У защиты тем временем появилась новая ежедневная рутина. Вышла уязвимость, и нужно быстро понять, работает ли она, можно ли её эксплуатировать и касается ли она вашей инфраструктуры. Если обновление получить не удаётся, приходится закрывать риск другими мерами. Такая проверка идёт постоянно, и без агентов её объём уже не вытянуть.
Поэтому сценарий «подожду, пока всё устаканится» означает одно: вы войдёте в эту гонку позже остальных и без опыта, который коллеги набирают прямо сейчас.
Три заблуждения, которые держат в ступоре
«AI заменит меня целиком». Работу по инструкции действительно отдают AI. Но решение, как правильно закрыть уязвимость в конкретном коде или конкретной сети, принимает человек. Без контекста инфраструктуры модель сделает по-своему, и в боевой системе такую ошибку себе не позволишь.
«Агенты всё сделают сами, думать можно меньше». Агентные фреймворки создают ровно такое ощущение, и оно ложное. Агент стремится выполнить задачу так, чтобы его не в чем было упрекнуть, и при этом может не достичь цели. Свою работу он оценивает ненадёжно: способен похвалить собственный текст, а в новом чате с той же уверенностью разгромить его по выдуманным критериям.
«Если сразу не получилось, это не моё». Лента обещает, что достаточно поставить правильный промпт и пару скиллов. Отсюда типичное чувство, что у всех получается, а у вас нет. Рабочие решения собирают маленькими итерациями, и неудачная первая попытка входит в процесс.
С чего начать, если вы замерли
- Возьмите маленькую измеримую задачу. Для старта подходят задачи с чёткими параметрами: проверить доступ, найти запись в базе, выгрузить логи, сделать небольшой ресёрч.
- До делегирования решите, как будете принимать результат. Ответьте себе, как отличить задачу, сделанную хорошо, от проваленной. Критерии формулирует человек, агенту их не отдают.
- Соберите первый скилл вручную. Доведите задачу до приемлемого результата любым способом, попросите агента упаковать это в скилл, проверьте его глазами и повторите в новом чате. Обычно хватает двух-четырёх итераций. Скиллы, которые агент пишет себе с нуля, почти всегда выходят слабыми.
- Ограничивайте агента средой. Запрет в промпте работает как мягкая проверка. Известен случай, когда агент сам выпустил платный сертификат в облаке и потратил 400 долларов. Права, доступы и платные действия закрывайте на уровне окружения.
- Экспериментируйте на своей машине. Дома, на компьютере без доступа к чувствительным данным. Рабочую инфраструктуру подключайте, когда поймёте, как агент себя ведёт.
Как создать свою агентскую систему для Blue Team, покажут на эфире 5 ноября.
Что ценят в инженере, который не замер
Из 20 стажёров остаётся один. Задержаться помогает любознательность: желание докопаться до сути и разобраться, как устроена система, вместо того чтобы выполнять инструкцию.
На собеседованиях вопрос «как вы работаете с агентами» становится стандартным. Иногда просят показать это на практике, поэтому опыт из домашних экспериментов пригодится раньше, чем кажется.
И ещё одно, чего у модели нет: личного опыта. AI оперирует усреднёнными знаниями. Прожитые кейсы, принятые решения и их последствия остаются за вами, и как раз их можно передать агенту как контекст.
Кто нужен рынку, когда AI меняет правила
5 ноября, в четверг, в 19:00 МСК пройдёт онлайн-интервью. Гость: Владимир Дрюков, директор по услугам и технологиям Innostage.
В 2005 году он начинал инженером-стажёром в «Инфосистемы Джет», потом строил Solar JSOC и возглавлял его центр противодействия кибератакам. Ведёт разговор Егор Богомолов, CEO CyberED.
За 90 минут разберут:
- в чём заблуждаются инженеры, которые замерли в ожидании, что AI их заменит;
- AI у атакующих: угроза профессии или рост вашей ценности;
- какие роли вымрут первыми, а кто станет «кентавром»: голова человека плюс AI-агент;
- какому инженеру разрешат отвечать за AI-агента;
- как создать свою агентскую систему для Blue Team.
