Сказки о безопасности: Похищенный голос

Сказки о безопасности: Похищенный голос

— Доброе утро, шеф! Вам звонили из компании Min&Brosers. И очень просили принять их представителя. Эта компания занимается наймом актеров для озвучивания игр и рекламных роликов. Я назначила им на 11 утра.

— Спасибо! Они сказали, что случилось?

— Я не совсем хорошо поняла, что-то о фальшивых роликах и подделке голоса.

— Понятно. Примем их в комнате 8, пригласите туда Анну из отдела подделки голоса.

— Хорошо. Шеф, вам кофе как обычно? Или «Ледяной кофе»?

— Ледяной, но как ты его делаешь?

— Это рецепт моей мамы. Она же жила на юге. Варит кофе с вечера. Только заранее с сахаром. Ждет пока он остынет и заливает его в формочки для льда. Ну и в морозилку. А утром берет этот кофейный лед в шейкер, добавляет молоко. Встряхивает интенсивно и наливает в стакан. Вместе с кусочками льда. Все готово!

— Передай маме, что она гений! При такой высокой температуре пить обычный -издевательство, а вот такой в самый раз! Спасибо!

11 утра.

— Шеф, вы не забыли? Вас ждут в комнате 8. Анна уже там.

— Иду.

— Добрый день, господа! Что случилось?

— Наша актриса, Джейн Вуд, решила подать в суд. Компания B-Dance скопировала ее голос, перенимая уникальные качества, такие как ритм речи, произношение согласных и гласных, а также интонацию, и использует его для озвучивания любых текстов.

— Она знала об этом?

— Клянется, что нет.

— Что ж, предстоит длинная, сложная и неприятная процедура установки личности. Анна, что скажете?

— Для технологических компаний возможность дополнить свое предложение реалистично звучащим человеческим голосом без дополнительных затрат —заманчивое предложение. И, судя по всему, разработчики -Dance с помощью технологий машинного обучения смогли скопировать ее голос.

— Откуда они взяли образцы ее голоса?

— Три года назад госпожа Вуд записала около 10 тыс. аудиообразцов для финансируемого государством Императорского института акустики. Эти записи должны были использоваться в переводах.

— И что, произошла утчека?

— Да, скорей всего. И теперь голос актрисы может сгенерировать любой пользователь B-Dance и накладывать его поверх видео, загруженных в приложение, часто для создания комедийного эффекта.

— Какие еще возможны последствия?

— Потеря контроля над использованием голоса может нанести ущерб карьере актера озвучивания. Если их синтетические голоса рекламируют конкурентов клиента, они могут нарушать контракты, требующие исключительного права голоса. А если сгенерированный голос начнет выражать идеи, противоречащие бренду или убеждениям актеров озвучки, это может навредить их репутации. Более того, B-Dance располагает технологией преобразования текста в речь, а это значит, что голос актрисы мог использоваться и в коммерческих целях. Но и это не самое главное. Мы не знаем, какому количеству актеров нанесен подобный вред.

— А что говорит закон?

— Увы, законодательство на сей счет находится в зачаточном состоянии. А это значит, что все больше студий озвучки уже готовятся к революции в отрасли, создавая подразделения ИИ. В перспективе актеры будут лицензировать свои синтетические голоса для их монетизации вне студии, а компании будут нанимать исполнителей для разработки специализированных голосов бренда, отличающихся от «общего» стандарта.

Применение ИИ поднимает все больше вопросов. Жаль только, что у нас очень мало ответов. Задумайтесь!

Alt text
на нашем Телеграм канале мы рассказываем о самых актуальных угрозах и событиях, которые оказывают влияние на обороноспособность стран, бизнес глобальных корпораций и безопасность пользователей по всему миру.

Владимир Безмалый

О безопасности и не только