ИИ перешёл на сторону зла: новый чат-бот DarkBERT использует даркнет как базу данных

Разработчик мошеннического чат-бота FraudGPT активно прорабатывает усовершенствованные инструменты, использующие генеративные модели ИИ и технологии чат-бота Google Bard. Одно из новых разработок – модель большая языковая модель (Large Language Model, LLM), использующая в качестве базы знаний все данные из даркнета. Об этом сообщила компания SlashNext, ссылаясь на сообщения автора FraudGPT.

Этичный хакер, который ранее обнаружил другой ИИ-инструмент, WormGPT, предупредил исследователей о том, что разработчик FraudGPT, известный на хакерских форумах как «CanadianKingpin12», работает над новыми мошенническими чат-ботами.

Готовящиеся к выпуску боты DarkBART и DarkBERT схожие по функционалу с ChatGPT, позволят хакерам разрабатывать сложные фишинговые кампании, обнаруживать и эксплуатировать уязвимости, проверять слабые места в критической инфраструктуре, создавать и распространять вредоносные программы.

DarkBART и DarkBERT: новое поколение ИИ

DarkBART является «тёмной версией» Google BART. Основой для DarkBART станет LLM-модель DarkBERT, которую разработали учёные из Южной Кореи для борьбы с киберпреступностью .

Разработчик также сообщил о возможности интеграции нового инструмента с Google Lens. Это позволит отправлять текст с изображениями, что открывает новые перспективы, поскольку до этого момента ИИ-инструменты были только текстовыми.

DarkBERT будет использовать всю информацию даркнета в качестве обучающих данных, предоставляя злоумышленникам доступ к мировому сознанию хакерского подполья для осуществления киберугроз.

Защита от угроз потребует активных действий. Помимо обычного обучения сотрудников предприятий по распознаванию фишинговых атак, организации должны проводить специализированное обучение, направленное на осведомленность сотрудников о природе атак и роли ИИ. Кроме того, нужно усилить меры проверки электронной почты для борьбы с угрозами на базе ИИ, добавив строгие процедуры и механизмы отслеживания ключевых слов к уже существующим мерам.