Хорошая работа, Bing: чат-бот от Microsoft предлагает пользователям вредоносное ПО

В ответах, отображаемых Bing, чат-ботом с искусственным интеллектом от Microsoft, обнаружен механизм распространения вредоносного софта при поиске популярных программных инструментов. Об этом сообщила компания Malwarebytes в своём вчерашнем отчёте .

Microsoft запустил Bing Chat в феврале этого года. Данный интерактивный поисковый сервис работает на базе большой языковой модели GPT-4 от OpenAI. Спустя месяц технологический гигант начал изучать возможности по перенаправлению пользователей на рекламные объявления прямо из чатов, чтобы как-то монетизировать свой продукт.

Однако этот шаг быстро превратился в лазейку для злоумышленников, использующих рекламные механизмы для продвижения фишинговых сайтов и распространения вредоносных программ. «Реклама может быть интегрирована в диалог Bing Chat различными способами», — пояснил Жером Сегура из Malwarebytes.

Ссылка в Bing ведёт на перенаправляющий сайт

В приведённом исследователями примере запрос в Bing Chat на скачивание легитимного программного обеспечения «Advanced IP Scanner» вернул пользователю ссылку, которая при наведении на неё показывала злонамеренное объявление, ведущее на мошенническую ссылку.

При клике на эту ссылку пользователь попадает на систему перенаправления трафика, которая определяет, исходит ли запрос от реального человека или бота. Реальные люди перенаправляются на поддельный сайт «advЕnced-ip-scanner.com», который имитирует официальный, отличаясь в доменном имени всего на букву, что довольно сложно заметить беглым взглядом.

Легитимный сайт оказался поддельным

Программа установки настроена на запуск скрипта Visual Basic, который отправляет маяк на внешний сервер с вероятной целью получения полезной нагрузки следующего этапа. Точная природа поставляемого зловредного ПО в настоящее время неизвестна, но в скачиваемую полезную нагрузку, по сути, можно упаковать любой вредоносный софт.

Примечательным аспектом данной кампании является то, что злоумышленнику удалось проникнуть в рекламный аккаунт законной австралийской рекламной организации и создать рекламу из-под её профиля, что снимает подозрения к надёжности контента со стороны поисковых провайдеров.

«Злоумышленники продолжают использовать поисковую рекламу для перенаправления пользователей на вредоносные сайты, содержащие вредоносное ПО», — сообщил Сегура. По его словам, убедительные поддельные страницы легко усыпляют доверие пользователя, и он скачивает зловредный софт, не замечая подвоха.

Этот инцидент демонстрирует, что даже передовые технологии искусственного интеллекта на базе современных языковых моделей не защищены от злоупотреблений со стороны киберпреступников.

В свете этих событий пользователям рекомендуется избегать кликов по любым ссылкам из диалога с чат-ботом, даже если они выглядят достоверно и надёжно. Либо же тщательно проверять URL-адреса на признаки обмана.

В то же время, компаниям следует уделить более пристальное внимание безопасности при внедрении подобных технологий, чтобы не допустить их использования во вред.