Клонирование голоса: является ли «голос как услуга» новой прибыльной бизнес-моделью?

• Автор:
• Имя автора

  Квантумран Форсайт
• 8 сентября, 2022

Сводка статистики

Технология синтетического голоса превратилась из объединения записанного звука в использование искусственного интеллекта для создания убедительных голосовых клонов. Эта технология, позволяющая любому клонировать голоса с помощью простых инструментов, набирает обороты в сфере развлечений, но вызывает проблемы этики и безопасности. Его широкое применение, от личного использования до аренды голоса знаменитостей, сочетается с такими рисками, как кража личных данных и неправомерное использование, что подчеркивает необходимость регулирования и усовершенствований в области кибербезопасности.

Контекст клонирования голоса

Когда-то синтетические голоса производились путем записи человеческих голосов, их разбиения на небольшие аудиокомпоненты и их объединения. К 2022 году искусственный интеллект и машинное обучение (AI/ML) позволили точно и убедительно клонировать голоса. Хотя этот прорыв имеет преимущества для индустрии развлечений, он также имеет этические последствия.

Клонирование голоса может показаться пугающим, но все, что вам нужно, это микрофон, сценарий и 30 минут. Человек, который хочет клонировать свой голос, может отправить свои записанные аудиофайлы на обработку, и через несколько часов его голос будет доступен для скачивания. Затем, используя окно чата, они могут напечатать что угодно на любом языке, и их реплика ИИ повторит это. Клонирование голоса может обеспечить убедительный звук, которому поверят даже друзья и родственники. 

Весь описанный выше процесс стал возможен благодаря машинному обучению, которое значительно продвинуло область синтеза речи. А к 2025 году знаменитости могут начать продавать или сдавать в аренду свои клонированные голоса для различных услуг. Veritone была одной из первых компаний, предоставивших такую ​​услугу в 2021 году, позволяющую влиятельным лицам, спортсменам и актерам лицензировать свои голоса, клонированные с помощью ИИ, для одобрения без необходимости идти в студию.

Разрушительное воздействие

Публичные дебаты о сложных технологиях цифрового клонирования, таких как видео, созданные искусственным интеллектом, раньше были сосредоточены на росте числа труднообнаруживаемых дипфейков с имитацией звука и их способности распространять дезинформацию и политические разногласия. Однако технология клонирования голоса имеет свою долю рисков и противоречий. 

Одним из самых громких заявлений стало использование голоса покойного шеф-повара Энтони Бурдена в документальном фильме 2021 года Roadrunner. Зрители были шокированы сначала использованием «фальшивого» звука, а затем явным игнорированием режиссером этических соображений. Зрители выразили свое возмущение в сети. Сэм Грегори, программный директор Witness (некоммерческой организации, работающей над использованием видеотехнологий для защиты прав человека), заявил, что неудобная реакция на клонирование голоса Энтони Бурдена отражает ожидания людей в отношении раскрытия информации и согласия. Грегори отметил, что получение согласия и раскрытие аудитории технологии, лежащей в основе клонирования голоса, необходимо для продвижения вперед. 

Есть также опасения по поводу потенциальной опасности технологии клонирования голоса. В 2019 году Wall Street Journal сообщил об уголовном деле, связанном с клонированием голоса. Бизнес-менеджера обманом заставили перевести 260,000 XNUMX долларов США преступникам, которые использовали клонированную копию голоса его босса. 

Последствия клонирования голоса

Более широкие последствия клонирования голоса могут включать: 

• Рост числа приложений для клонирования голоса, которые каждый может загрузить и использовать.
• Знаменитости арендуют свои голоса для различного контента, такого как подкасты, аудиокниги и приложения для медитации.
• Увеличение инвестиций в технологии клонирования голоса для развлекательных целей, таких как видеоигры и озвучивание фильмов.
• Киберпреступники взламывают онлайн-системы хранения клонированных записей голоса. 
• Компании, занимающиеся кибербезопасностью, разрабатывают специализированные решения для поставщиков услуг клонирования голоса.
• Правительства разрабатывают политику и правила для защиты людей и их голосов от незаконной деятельности.

Вопросы для рассмотрения

• О каких потенциальных преступлениях вы можете подумать, если голос будет клонирован без разрешения?
• Как еще клонирование голоса может повлиять на индустрию развлечений и бизнеса?