Грамматика, как у профессора, а это фишинг. Да, теперь ИИ — ваш враг

Идея, что спам легко распознать по корявой орфографии и убогому синтаксису, больше не работает. Генеративные нейросети не просто повысили качество мошеннических писем — они превратили их в безупречные, культурно и лингвистически адаптированные сообщения, которые всё труднее отличить от настоящей переписки. Спам больше не выглядит подозрительно — он выглядит идеально. И именно это стало новым красным флагом.

Раньше мошенники ограничивались английским, испанским или, в лучшем случае, формальным французским, потому что нанимать носителей других языков было долго, дорого и бессмысленно. Теперь с помощью ИИ преступники без труда генерируют письма и сообщения на любом диалекте, от квебекского до европейского варианта португальского. В итоге жертвы получают убедительные фейковые письма, написанные так, будто их написал сосед по лестничной клетке.

По словам Честера Висневского, глобального CISO компании Sophos, на конференции RSAC, сейчас, вероятно, до половины всего спама создаётся нейросетями. Он подчёркивает: грамматика и пунктуация в таких письмах стали настолько безупречными, что это, наоборот, должно настораживать. Люди, в отличие от машин, почти всегда допускают ошибки — даже если пишут на родном языке.

Переход к ИИ дал злоумышленникам ещё одно преимущество — масштабируемость. Они больше не ограничены ни географией, ни языками. В Квебеке, например, фишинг долгое время проваливался просто потому, что приходил на формальном французском, а не на привычном квебекском. Теперь нейросети генерируют такие фразы, которые звучат абсолютно нативно. Похожая ситуация и в Португалии: раньше мошенники ориентировались на Бразилию как на более массовый рынок, но теперь европейский вариант языка также попал в зону риска.

Одна из самых коварных форм обмана, романтическое мошенничество, также претерпело трансформацию. На первых этапах «соблазнения» с жертвой переписывается чат-бот, искусно играющий роль сочувствующего, внимательного и заинтересованного собеседника. Как только контакт установлен, к делу подключается человек — и начинается просьба о помощи, переводах денег или заманивание в финансовые аферы под видом инвестиций.

Но, пожалуй, самая опасная технология, ставшая массовой благодаря ИИ, — это дипфейк-аудио. По словам Висневского, сегодня можно буквально за копейки сгенерировать голос любого сотрудника — например, специалиста IT-отдела — и обзвонить всех коллег с просьбой выдать пароль или другую чувствительную информацию. Такой обман работает в реальном времени и не требует особых технических навыков.

Что касается видео-дипфейков, здесь пока сохраняется относительное спокойствие. Висневский высказывает сомнения по поводу громких инцидентов, вроде случая в Гонконге, где якобы видеозвонок с дипфейком убедил сотрудника перевести $25 миллионов. Он считает, что это скорее попытка списать ошибку на модную угрозу, чем реальный пример. Даже крупнейшие компании пока не умеют делать реалистичные интерактивные видеомодели — но это лишь вопрос времени. Он прогнозирует, что при текущих темпах развития технологии массовые дипфейки в видеозвонках станут реальностью уже через два года.

Однако с ним не согласен операционный директор NCC Group Кевин Браун. По его словам, команда пентестеров уже добилась определённых успехов в создании видеофейков для конкретных задач. Технология существует, просто ещё не поставлена на поток. Но и это лишь вопрос времени.

И Висневский, и Браун сходятся в одном: пора перестраивать систему верификации общения. Старые признаки фишинга — орфографические ошибки, ощущение спешки и несвязная речь — больше не работают. Будущее за проверкой личности по новым каналам, которые пока ещё не подделываются на лету.