Ваш новый коллега на удалёнке подозрительно идеален. Возможно, это нейросеть из КНДР

Киберпреступные группы всё активнее включают инструменты искусственного интеллекта в собственные операции. Аналитики Microsoft пришли к выводу, что современные модели уже стали частью инфраструктуры атак: генеративные сервисы ускоряют подготовку фишинга, создание вредоносного кода и анализ похищенных данных, помогая злоумышленникам расширять масштаб кампаний и снижать затраты.

Свежий отчёт Microsoft Threat Intelligence описывает растущую роль искусственного интеллекта на разных этапах атак. Модели чаще всего применяют для работы с текстом, кодом и медиа. С их помощью злоумышленники пишут фишинговые письма, переводят сообщения на разные языки, обобщают содержимое украденных документов, создают или исправляют вредоносные программы и готовят инфраструктурные скрипты. По данным Microsoft, искусственный интеллект выступает скорее ускорителем процессов: основные решения о целях и тактике по-прежнему принимают операторы.

Характерный пример — деятельность северокорейских группировок Jasper Sleet и Coral Sleet. Эти структуры используют ИИ для создания поддельных цифровых образов, которые помогают проникать в компании под видом удалённых IT-сотрудников. Генеративные сервисы подбирают имена, форматы электронной почты, резюме и сопроводительные письма, а также анализируют вакансии и извлекают требования к кандидатам. Подобная подготовка повышает правдоподобность профилей и облегчает длительное сохранение доступа к корпоративным системам.

ИИ применяют и на стадии подготовки инфраструктуры. С помощью моделей злоумышленники подбирают инструменты для обхода защитных систем, исследуют уязвимости и разворачивают командные серверы. Microsoft также фиксирует использование генеративных нейросетей для автоматического создания доменных имён, имитирующих популярные бренды. Подобные домены служат для фишинга, управления вредоносными программами и кражи учётных данных.

Социальная инженерия тоже заметно изменилась. Генеративные системы помогают писать убедительные письма без языковых ошибок, адаптировать сообщения под конкретную компанию или должность и даже создавать вымышленных персонажей. В некоторых операциях злоумышленники применяют программное изменение голоса или дипфейк-видео, чтобы скрыть акцент и выдавать себя за кандидатов из других стран. Группа Jasper Sleet, например, использовала приложение Faceswap для вставки лиц северокорейских разработчиков в украденные документы и фотографии для резюме.

ИИ участвует и в разработке вредоносных программ. Модели помогают генерировать фрагменты кода, искать ошибки и переписывать модули на другие языки программирования. Microsoft обнаружила, что Coral Sleet активно применяет подобные инструменты для ускоренного создания новых компонентов вредоносного ПО. В некоторых образцах кода аналитики нашли характерные признаки автоматической генерации — избыточные имена функций, чрезмерную модульность и даже комментарии, напоминающие живую разговорную речь.

После проникновения в инфраструктуру компаний искусственный интеллект помогает злоумышленникам анализировать окружение. Модели анализируют данные из журналов и конфигураций, выделяют ценные данные, подсказывают варианты перемещения по сети и помогают выбирать способы закрепления в системе. ИИ также облегчает анализ украденной информации и подготовку сообщений для вымогательства.

Microsoft отмечает первые признаки перехода к более автономным системам. Речь идёт о так называемом «агентном» ИИ, который способен самостоятельно планировать действия, оценивать результат и корректировать стратегию. Массового применения таких решений пока не наблюдается из-за ограничений надёжности, однако дальнейшее развитие подобных инструментов может серьёзно усложнить обнаружение атак.

Аналитики подчёркивают, что распространение искусственного интеллекта одновременно усиливает защиту. Компания уже выявила и заблокировала тысячи аккаунтов, связанных с фальшивыми IT-сотрудниками, и продолжает развивать системы обнаружения злоупотреблений. По мнению Microsoft, ИИ снижает порог вхождения для злоумышленников, но при грамотном применении способен значительно повысить эффективность средств защиты.