Технологии ИИ могут использоваться для создания «невидимого» вредоносного ПО

Технологии ИИ могут использоваться для создания «невидимого» вредоносного ПО

Изменение небольших последовательностей байтов позволяет обмануть антивирусы даже в том случае, если они используют технологии машинного обучения.

image

В рамках конференции DEF CON эксперт компании Endgame Хайрум Андерсон (Hyrum Anderson) продемонстрировал систему, разработанную на основе фреймворка OpenAI, которая способна создавать «невидимое» вредоносное ПО, недетектируемое антивирусными решениями.

Принцип работы системы заключается в изучении того, как можно модифицировать вредоносные файлы так, чтобы избежать обнаружения антивирусами. По словам Андерсона, изменение небольших последовательностей байтов позволяет обмануть антивирусные программы даже в том случае, если они используют технологии машинного обучения.

«Все модели машинного обучения имеют «слепые зоны». В зависимости от уровня знаний хакера их можно эксплуатировать», - отметил исследователь.

Андерсон и его коллеги разработали простой механизм создания вредоносного ПО путем незначительной модификации «нормального» кода. Созданные варианты сканировались антивирусом и на основе его ответов исследователи вносили изменения в код, таким образом создавая новые образцы, способные обходить защиту системы.

В течение 15 часов обучения система прошла более 100 тыс. проверок антивирусом. В результате 16% вариантов вредоносного кода смогли обойти защиту антивирусной программы. PoC-код генератора вредоносного ПО исследователи опубликовали на GitHub.

Подписывайтесь на каналы "SecurityLab" в TelegramTelegram и Яндекс.ДзенЯндекс.Дзен, чтобы первыми узнавать о новостях и эксклюзивных материалах по информационной безопасности.

Комментарии для сайта Cackle