Искусственный саботаж: как дипфейки с голосом Байдена пытались сорвать выборы в Нью-Гэмпшире

Власти США предъявили обвинения политическому консультанту за распространение поддельных записей с голосом президента Джо Байдена тысячам избирателей в Нью-Гэмпшире. Теперь телекоммуникационной компании, позволившей осуществить эти звонки, грозит штраф в размере $2 миллионов за неспособность предотвратить их.

Федеральная комиссия по связи США (FCC) сообщила, что 54-летний консультант Стивен Крамер организовал мошенническую схему робозвонков с использованием ИИ. Запись призывала жителей Нью-Гэмпшира воздержаться от голосования до ноябрьских выборов, что было явной попыткой сорвать процесс первичных выборов. Крамеру грозит штраф в размере $6 миллионов за использование дипфейков с голосом Байдена и подделку идентификатора звонящего.

Это первый случай такого рода для FCC, когда Крамер, разославший тысячи поддельных звонков за 2 дня до выборов, был обвинен по 13 уголовным статьям за подавление избирателей и подделку личности кандидата.

Кроме того, телекоммуникационная компания Lingo Telecom, позволившая осуществить звонки, может столкнуться со штрафом в размере $2 миллионов за свою роль в передаче звонков. Выяснилось, что неточные и вводящие в заблуждение звонки также использовали номер идентификатора звонящего местного политического деятеля, который не знал о происходящем, что является нарушением правил аутентификации идентификатора звонящего, установленных FCC.

По данным FCC, Lingo Telecom не следовала принципам «Знай своего клиента» (Know Your Customer, KYC), которая делает незаконным передачу звонков без верификации идентификатора звонящего. Телекоммуникационная компания также обвиняется в недостаточных усилиях по проверке точности информации, что должно включать использование стандартов STIR/SHAKEN, установленных FCC.

Инструмент STIR/SHAKEN служит цифровым идентификатором, позволяющим отслеживать подозрительные звонки, что не только поддерживает надежность для потребителей, но и позволяет другим телефонным операторам блокировать спам-звонки.

FCC предупредила, что ИИ, вероятно, сыграет значительную роль в предстоящих выборах 2024 года, увеличивая важность обеспечения честности и прозрачности выборов. Опасения, что контент, созданный с помощью ИИ, может ввести в заблуждение избирателей, побудили некоторых сенаторов в Вашингтоне продвигать законодательные меры для борьбы с угрозами накануне ноябрьских выборов, включая обязанность радио и телевидения раскрывать информацию о наличии в рекламе контента, созданного с помощью ИИ.