Средство защиты на машинном обучении хорошо ровно настолько, насколько актуальны данные, на которых его обучили. Инфраструктура меняется постоянно: появляются новые приложения, новые шаблоны поведения пользователей, новые техники атак. Со временем реальная среда перестаёт совпадать с той, на которой модель училась, и качество детектирования падает — растут пропуски угроз и ложные срабатывания.
Компания «Газинформсервис» в этом году получила патент на способ, который позволяет обнаруживать такую деградацию и устранять её автоматически (патент на изобретение № 2867439 «Способ и система обучения интеллектуального средства защиты информации»).
Разовая проверка — аттестация или тест на исторических
данных — фиксирует качество только в момент теста, а ручное дообучение требует
времени и специалистов, и всё это время средство защиты работает хуже, чем
могло бы. Запатентованный способ закрывает этот разрыв замкнутым циклом
«проверка — оценка — дообучение». Авторы изобретения: учредитель компании
Валерий Пустарнаков, заместитель технического директора Лидия Виткова, а также
сотрудники лаборатории технологий искусственного интеллекта Сергей Чатоян,
Никита Бобров и Ирина Меженева.
Интеллектуальное средство защиты (метод применим к системам классов EDR, NDR,
XDR, UEBA, SIEM) помещают в тестовую среду, имитирующую автоматизированную
систему. Это может быть виртуальная, аппаратная или гибридная среда, вплоть до
участка киберполигона, воспроизводящего реальный защищаемый объект с его
трафиком и пользовательской активностью. Средство подвергают серии тестовых
воздействий, а его отклики оценивают по частным показателям, например
своевременности реагирования и устойчивости к ложным срабатываниям.
Частные показатели сводятся в интегральную оценку с помощью функции нелинейной свёртки,
а решение о корректировке принимается по пороговому критерию на шкале
желательности. Ключевой элемент метода — адресность дообучения: если порог не
достигнут, система находит в откликах именно те блоки данных, которые повлияли
на провальные показатели, и дообучает модель только на них, а не на всём
массиве. Цикл повторяется, пока средство не выйдет на требуемый уровень.
Практический смысл метода — управляемое качество интеллектуальной защиты на
всём жизненном цикле: меньше ложных срабатываний без потери полноты
детектирования, безопасная отладка в тестовой среде без риска для боевой
инфраструктуры и измеримость. Качество защиты перестаёт зависеть от
человеческого фактора: оно выражается оценкой с порогом и динамикой, а не
экспертным мнением.
«Измеримость важна и для системы доверия к ИИ, которая сейчас формируется в
России. По данным Консорциума исследований безопасности технологий ИИ, около
300 информационных систем в регионах уже используют различные технологии ИИ без
учёта актуальных рисков и угроз. В сентябре 2025 года Консорциум направил в
Минцифры концепцию федерального реестра доверенных решений ИИ на основе
риск-ориентированного отраслевого подхода; реестр рассматривается как
репозиторий и полигон тестирования типовых ИИ-решений для государственных
информационных систем», — отметила Лидия Виткова.
Отметим, что рабочую группу № 3 Консорциума, которая отвечает за это направление, возглавляет «Газинформсервис», лидер группы — заместитель технического директора компании Лидия Виткова.
