ИИ позволяет создать поддельные документы, обманывающие хакеров

ИИ позволяет создать поддельные документы, обманывающие хакеров

Алгоритм скрывает конфиденциальную информацию среди огромного количества приманок.

Хакеры постоянно совершенствуются в способах обхода киберзащиты с целью кражи конфиденциальных документов. В связи с этим ряд исследователей из Дартмутского колледжа предложили использовать алгоритмы искусственного интеллекта для создания обманных файлов, которые будут скрывать настоящие данные среди большого количества подделок.

Алгоритм Word Embedding–based Fake Online Repository Generation Engine (WE-FORGE) генерирует поддельные патенты, якобы находящиеся в стадии разработки. По словам разработчика алгоритма В. С. Субрахманяна (V. S. Subrahmanian), когда-нибудь ИИ сможет «создать множество поддельных версий каждого документа, который необходимо охранять».

Например, если злоумышленники будут искать формулу нового лекарства, им пришлось бы анализировать большое количество подделок на предмет настоящих файлов. Это может означать подробную проверку каждой формулы и, возможно, инвестирование в несколько заведомо неправильных расчетов.

Поддельные документы, созданные WE-FORGE, также могут выступать в качестве скрытых ловушек. Например, определенный файл может предупреждать систему безопасности при доступе к нему. Для этой стратегии компании обычно использовали подделки, созданные людьми, но теперь ИИ сможет сделать огромное число правдоподобных документов.

Система производит убедительные ловушки путем поиска в документе ключевых слов. Для каждого найденного термина ИИ вычисляет список связанных понятий и заменяет исходный термин на один, выбранный случайным образом. В результате могут быть созданы десятки документов, которые не содержат конфиденциальную информацию, но при этом выглядят правдоподобно.


Больше пяти не собираться: роботы будут следить за улицами Сингапура, хакеры атаковали проект Jenkins, во Франции арестовали экологов, данные которых раскрыл ProtonMail, а россиян беспокоит идея «социальных рейтингов». Смотрите 31-й выпуск наших новостей.