XBOW: ИИ стал багхантером №1. Осталось только придумать, как его за это засудить

Первое место в глобальном рейтинге HackerOne теперь занимает не человек, а машина — под псевдонимом XBOW скрывается не живой исследователь, а ИИ-система, которая уже нашла 255 уязвимостей. Несмотря на столь впечатляющий результат, речь пока не идёт об автономном «охотнике за баунти» — XBOW — это продукт компании Offensive Security, которая применяет специализированных агентов для автоматического поиска уязвимостей.

Масштабное использование подобных инструментов оказывает заметное влияние на экосистему: по данным HackerOne, количество подтверждённых уязвимостей за год выросло на 12%, превысив 78 тысяч находок, из которых более четверти признаны критическими или высокоопасными. Тем не менее, сами платформы подчёркивают: не менее важны не технологии, а те, кто их использует.

Сооснователь HackerOne Михил Принс в интервью подчеркнул, что ИИ-хакеры действуют быстро, не нуждаются в сне и легко побеждают в количественном зачёте. Однако в вопросе качества — особенно при выявлении логических изъянов с реальными бизнес-последствиями — по-прежнему лидируют живые участники. Ключевые и наиболее разрушительные уязвимости по-прежнему обнаруживают именно люди.

При этом граница между машиной и человеком становится всё менее чёткой. По словам Принса, многие опытные багхантеры уже включили ИИ-инструменты в свой рабочий процесс, используя их для сбора сигналов, генерации идей и ускорения анализа. Он называет таких специалистов «бионическими хакерами»: мозг у них человеческий, но усиливается алгоритмами.

Рост продуктивности ощущают все: исследователи находят больше уязвимостей, получают за это выплаты, а компании быстрее устраняют риски. Средний баунти сегодня составляет $1,116, что на 10% меньше, чем в 2021 году, когда цифра доходила до $1,246. Однако за критические баги суммы могут достигать десятков тысяч долларов.

Тем не менее, автоматизация не лишена тёмной стороны. ИИ всё чаще используется не только для поиска багов, но и для написания отчётов — и не всегда достоверных. Некоторые уязвимости оказываются плодом галлюцинаций модели, другие — откровенно преувеличенными. Хотя, по признанию Принса, частота фальшивок снизилась, проблема никуда не исчезла. Главная угроза сейчас — эмоционально приукрашенные отчёты, в которых не только преувеличена важность находки, но и нарушены принципы верифицируемости.

Для эффективного отчёта, подчёркивает он, важны холодные факты: как работает уязвимость, как её воспроизвести и в чём бизнес-ущерб. Ни драматизации, ни гипотез. И здесь снова необходим человек — чтобы дать ИИ максимум контекста до анализа и отфильтровать результат после. Именно человеческий оператор должен нести ответственность за отправку отчёта: если баг нельзя воспроизвести, он не должен попадать в систему.

Пока что уязвимости, связанные с нарушением бизнес-логики — например, когда из-за непредусмотренной манипуляции рушится целый процесс с последствиями «вниз по цепочке» — остаются за пределами возможностей ИИ. Принс подчёркивает: такие баги требуют не просто доступа к коду или интерфейсу, а глубокого понимания того, как работает система в целом. Машинам это пока недоступно, но времени на раздумья всё меньше.