Искусственный интеллект и фейки: как сохранить информационную гигиену в эпоху технологий

Технологии генеративных моделей машинного обучения позволяют упростить выполнение рутинных задач, ускорить поиск информации, но они же активно используются злоумышленниками для создания фейков.

Как генеративная модель машинного обучения может стать угрозой? Как технологии ИИ можно использовать для создания фейков? По каким признакам можно заподозрить и выявить фейк, даже если он создан профессионалами при помощи нейросетей? О каких правилах цифровой гигиены важно знать каждому? На эти вопросы постарались ответить наши эксперты в рамках Межрегионального круглого стола по ИБ, который проходил 29-30 мая 2025 года в Ростове-на-Дону.

Генеративные модели машинного обучения как вызов: польза и опасность

Генеративные модели машинного обучения — один из важнейших технологических прорывов XXI века. Они позволяют автоматизировать рутинные задачи, ускорять обработку информации, помогать в анализе данных и даже творчестве. Но вместе с тем технология стала инструментом, который всё чаще используется в недобросовестных целях — в первую очередь для создания фейков и дезинформации.

Созданные с помощью нейросетей тексты, изображения, видео и аудиозаписи становятся настолько реалистичными, что отличить подделку от реальности под силу не каждому. Злоумышленники применяют генеративные модели машинного обучения, чтобы манипулировать общественным мнением, дестабилизировать ситуацию, подрывать доверие к государственным институтам и влиять на общество.

Как распознать фейк и почему это становится всё труднее

Что представляет собой фейк? Это информационный «вброс», цель которого – вызвать общественный резонанс и спровоцировать некую (чаще всего – негативную, агрессивную, деструктивную) реакцию в обществе.

Может показаться, что тема фейков уже обсуждалась неоднократно, и сказать что-то новое будет сложно, но на самом деле это не так. Технологии, инструменты и приемы создателей фейков постоянно совершенствуются и развиваются, а значит, должны развиваться и способы их выявления и разоблачения.

Одна из ключевых характеристик фейка – его содержание не соответствует действительности. Фейк содержит либо заведомо ложную информацию, либо «полуправду». Во втором случае автор фейка использует данные, которые можно проверить, но при этом сообщает только часть информации, предоставляет вырванные из контекста, искаженные или неполные сведения.

С развитием технологий фейковый контент всё чаще создаётся с помощью генеративных моделей машинного обучения:

• Генерация текста
  
• Фальсификация изображений
  
• Deepfake-видео
  
• Аудио-подделки
  

Такие фейки часто публикуются в мессенджерах и социальных сетях через недавно созданные анонимные аккаунты, дублируются в новостных пабликах, рассылаются в группах. Их задача — распространяться как можно быстрее до появления опровержения.

Признаки фейка: на что обращать внимание

Несмотря на всё более сложную технику подделки, фейки по-прежнему можно распознать — особенно если сохранять бдительность и критическое мышление. Вот основные признаки:

• в качестве источника информации использовались подозрительные сайты, анонимные аккаунты, неизвестные каналы, недавно созданные страницы;
  
• некорректная речь – используются резкие и неуместно эмоциональные формулировки, встречаются сбои, повторы;
  
• в сообщении приводятся некорректные данные (стоит обращать внимание на даты, геолокации, ключевые факты);
  
• подозрительная картинка – на изображении много размытых фрагментов или, напротив, она слишком «идеальна».
  

Фейк почти всегда вызывает сильную эмоцию и требует немедленного действия: «перешли всем», «расскажи друзьям», «это скрывают». Такой призыв — тревожный сигнал.

Инструменты и подходы к проверке информации

Если сообщение или новость выглядят подозрительно (есть явные признаки фейка, яркий провокационный посыл или просто кажется, что с информацией «что-то не так»), то стоит воспользоваться инструментами проверки:

• проверить источник – самостоятельно зайти на сайт или найти канал, на который ссылаются в сообщении, проверить, действительно ли информация была размещена в этом источнике, также будет не лишним поинтересоваться репутацией этого источника;
  
• выполнить обратный поиск по картинке – такая функция сейчас есть в популярных поисковиках Google и Yandex;
  
• использовать сервисы видеоанализа;
  
• внимательно изучить и проанализировать стиль и лексику текста.
  

Цифровая гигиена: простые правила для всех

Информационная безопасность — это не только дело специалистов. Каждый человек ежедневно взаимодействует с десятками источников информации и должен уметь защитить себя от манипуляций.

Цифровая гигиена — это система привычек, которая помогает критически оценивать информацию, распознавать угрозы и не становиться частью цепочки распространения фейков.

Прежде чем принимать на веру некое сообщение (в особенности содержащее чувствительную информацию), используйте простой чек-лист – он поможет выявить или хотя бы вовремя заподозрить фейки:

• Кто источник?
  
• Где впервые появилась эта информация?
  
• Есть ли несостыковки?
  
• Подтверждается ли официально?
  
• Какова цель публикации?
  
• Какую эмоцию вызывает сообщение?
  

Заключение

ИИ будет развиваться — и вместе с ним будут расти и угрозы. Важно понимать: ответственность за качество информационного пространства лежит не только на тех, кто создаёт контент, но и на каждом из нас. Только осознанное потребление информации и соблюдение цифровой гигиены помогут сохранить доверие к реальности в мире, где фейк может выглядеть убедительнее правды.