Clonagem de voz: a voz como serviço é o novo modelo de negócios lucrativo?

• Autor:
• Nome do autor

  Previsão Quantumrun
• 8 de Setembro de 2022

Resumo do insight

A tecnologia de voz sintética evoluiu desde a junção de áudio gravado até o uso de IA para criar clones de voz convincentes. Esta tecnologia, que permite a qualquer pessoa clonar vozes com ferramentas simples, está a ganhar força no entretenimento, mas levanta preocupações éticas e de segurança. A sua aplicação generalizada, desde o uso pessoal até ao aluguer de voz de celebridades, está associada a riscos como roubo de identidade e utilização indevida, realçando a necessidade de regulamentos e avanços na segurança cibernética.

Contexto de clonagem de voz

Vozes sintéticas já foram produzidas gravando vozes humanas, quebrando-as em pequenos componentes de áudio e juntando-as. Até 2022, a inteligência artificial e o aprendizado de máquina (AI/ML) tornaram possível clonar vozes de forma precisa e convincente. Embora esse avanço tenha vantagens para a indústria do entretenimento, também tem implicações éticas.

Clonar uma voz pode parecer assustador, mas tudo o que é necessário é um microfone, um script e 30 minutos. Uma pessoa que deseja clonar sua voz pode enviar seus arquivos de áudio gravados para serem processados ​​e, em poucas horas, sua voz estará disponível para download. Então, usando uma caixa de bate-papo, eles podem digitar qualquer coisa em qualquer idioma e sua réplica de IA repetirá. A clonagem de voz pode fornecer um áudio convincente que até amigos e familiares acreditariam. 

Todo o processo acima é possibilitado pelo aprendizado de máquina, que avançou drasticamente no campo da síntese de fala. E até 2025, pode ser comum que as celebridades vendam ou aluguem suas vozes clonadas para uma variedade de serviços. A Veritone foi uma das primeiras empresas a fornecer esse serviço em 2021, permitindo que influenciadores, atletas e atores licenciassem suas vozes clonadas por IA para endossos sem a necessidade de ir a um estúdio.

Impacto disruptivo

O debate público sobre tecnologias sofisticadas de clonagem digital, como vídeos gerados por IA, costumava se concentrar no aumento de deepfakes difíceis de detectar com áudio simulado e seu potencial para espalhar desinformação e divisão política. No entanto, a tecnologia de clonagem de voz tem sua parcela de riscos e controvérsias. 

Uma das aplicações de maior destaque foi o uso da voz do falecido chef Anthony Bourdain para o documentário Roadrunner de 2021. Os espectadores ficaram chocados, primeiro com o uso de áudio 'falso', depois com a aparente rejeição das preocupações éticas pelo diretor. Os espectadores expressaram sua raiva online. Sam Gregory, diretor de programa da Witness (uma organização sem fins lucrativos que trabalha no uso de tecnologia de vídeo para os direitos humanos), afirmou que as reações desconfortáveis ​​à clonagem de voz de Anthony Bourdain refletiam as expectativas das pessoas em relação à divulgação e consentimento. Gregory observou que obter o consentimento e divulgar a tecnologia por trás da clonagem de voz para o público é essencial para avançar. 

Há também preocupações sobre os perigos potenciais da tecnologia de clonagem de voz. Em 2019, o Wall Street Journal relatou um caso criminal que envolvia clonagem de voz. Um gerente de negócios foi enganado ao transferir US$ 260,000 para criminosos que usaram uma cópia clonada da voz de seu chefe. 

Implicações da clonagem de voz

As implicações mais amplas da clonagem de voz podem incluir: 

• A ascensão dos aplicativos de clonagem de voz que qualquer pessoa pode baixar e usar.
• Celebridades alugando suas vozes para vários conteúdos, como podcasts, audiolivros e aplicativos de meditação.
• Aumentar os investimentos em tecnologias de clonagem de voz para fins de entretenimento, como videogames e dublagem de filmes.
• Cibercriminosos invadindo sistemas de armazenamento online de gravações de voz clonadas. 
• Empresas de segurança cibernética desenvolvendo soluções especializadas para provedores de serviços de clonagem de voz.
• Governos criando políticas e regulamentos para proteger as pessoas e suas vozes contra atividades ilegais.

Questões a considerar

• Em quais crimes em potencial você pode pensar se uma voz for clonada sem permissão?
• De que outra forma a clonagem de voz pode afetar as indústrias de entretenimento e negócios?