Показал deepfake — получил скандал. Депутат хотел предостеречь от ИИ, а спровоцировал хаос в парламенте
Чиновник сам стал жертвой технологии, от которой предостерегал.
В Национальном собрании Южной Кореи произошёл скандал после того, как депутат правящей партии People Power Party Ким Чжан-гюн показал на заседании deepfake-видео с изображением высокопоставленных чиновников. Ролик, созданный с помощью искусственного интеллекта, демонстрировал «секретную встречу» вице-министра Бэ Гён Хуна и бывшего председателя судебного комитета Ли Чхун Сока.
По словам депутата, цель демонстрации заключалась в том, чтобы привлечь внимание к растущей угрозе злоупотребления ИИ и показать, насколько легко можно создать убедительную подделку. Однако коллеги по парламенту сочли действия Кима провокационными и недопустимыми в ходе официального заседания.
Попытка предупредить о рисках технологий обернулась против самого инициатора. Законодатели обвинили его в том, что, используя реальные образы людей, он сам размывает грань между образовательной демонстрацией и манипуляцией.
Словесная перепалка быстро переросла в хаос — депутаты начали кричать друг на друга, и заседание комитета по науке, ИКТ, вещанию и связи пришлось прервать спустя час и пятнадцать минут после начала.
Ким заявил, что подобных случаев «злоупотребления ИИ и его побочных эффектов — бесчисленное множество», и настаивал, что видео предназначалось исключительно для повышения осведомлённости. Тем не менее последствия оказались противоположными: внимание парламента переключилось с сути вопроса на сам скандал.
Инцидент стал наглядным примером того, как даже попытка разоблачить опасность deepfake-технологий может обернуться дезинформацией.
В мировой политике подобные случаи происходят всё чаще. В Великобритании в 2024 году в сети распространились более сотни видео, в которых бывший премьер-министр Риши Сунак «говорил» голосом, сгенерированным ИИ. Исследователи из фирмы Fenimore Harper выяснили, что ролики охватили более 400 000 пользователей и имитировали стиль сюжетов BBC.
В случае Южной Кореи ситуация получилась особенно ироничной: парламентарий, пытавшийся предупредить о рисках искусственного интеллекта, сам стал жертвой его эффектов — не технологически, а политически.