Clonació de veu: la veu com a servei és el nou model de negoci rendible?

• autor:
• nom de l'autor

  Previsió de Quantumrun
• Setembre 8, 2022

Resum d'informació

La tecnologia de veu sintètica ha evolucionat des de reunir àudio gravat fins a utilitzar IA per crear clons de veu convincents. Aquesta tecnologia, que permet a qualsevol persona clonar veus amb eines senzilles, està guanyant força en l'entreteniment, però planteja problemes ètics i de seguretat. La seva aplicació generalitzada, des de l'ús personal fins al lloguer de veus de celebritats, s'uneix a riscos com el robatori d'identitat i el mal ús, cosa que posa de manifest la necessitat de regulacions i avenços en ciberseguretat.

Context de clonació de veu

Les veus sintètiques es van produir una vegada gravant veus humanes, dividint-les en petits components d'àudio i unint-les. L'any 2022, la intel·ligència artificial i l'aprenentatge automàtic (AI/ML) han permès clonar veus de manera precisa i convincent. Tot i que aquest avenç té avantatges per a la indústria de l'entreteniment, també té implicacions ètiques.

Clonar una veu pot semblar descoratjador, però tot el que es necessita és un micròfon, un guió i 30 minuts. Una persona que vulgui clonar la seva veu pot enviar els seus fitxers d'àudio gravats perquè es processin i, en poques hores, la seva veu es pot descarregar. Aleshores, utilitzant una caixa de xat, poden escriure qualsevol cosa en qualsevol idioma i la seva rèplica d'IA ho repetirà. La clonació de veu pot proporcionar un àudio convincent que fins i tot els amics i la família creurien. 

Tot el procés anterior és possible gràcies a l'aprenentatge automàtic que ha avançat de manera espectacular el camp de la síntesi de la veu. I per al 2025, pot ser habitual que les celebritats venguin o lloguin les seves veus clonadas per a una varietat de serveis. Veritone va ser una de les primeres empreses que va oferir aquest servei l'any 2021, i va permetre als influencers, atletes i actors llicenciar les seves veus clonades amb IA per obtenir avals sense necessitat d'anar a un estudi.

Impacte disruptiu

El debat públic sobre tecnologies sofisticades de clonació digital com els vídeos generats per IA solia centrar-se en l'augment de falsificacions profundes difícils de detectar amb àudio simulat i el seu potencial per difondre desinformació i divisió política. Tanmateix, la tecnologia de clonació de veu té la seva part de riscos i controvèrsies. 

Una de les aplicacions més destacades va ser l'ús de la veu del difunt xef Anthony Bourdain per al documental Roadrunner del 2021. Els espectadors van quedar sorprès, primer per l'ús d'àudio "fals", després per l'aparent rebuig del director de les preocupacions ètiques. Els espectadors van expressar la seva ira en línia. Sam Gregory, el director del programa de Witness (una organització sense ànim de lucre que treballa en l'ús de tecnologia de vídeo per als drets humans), va declarar que les reaccions incòmodes a la clonació de veu Anthony Bourdain reflectien les expectatives de la gent sobre la divulgació i el consentiment. Gregory va assenyalar que obtenir el consentiment i revelar la tecnologia que hi ha darrere de la clonació de veu a l'audiència és essencial per avançar. 

També hi ha preocupacions sobre els perills potencials de la tecnologia de clonació de veu. El 2019, el Wall Street Journal va informar d'un cas criminal que implicava la clonació de veu. Un director d'empresa va ser enganyat perquè transferís 260,000 dòlars a delinqüents que utilitzaven una còpia clonada de la veu del seu cap. 

Implicacions de la clonació de veu

Les implicacions més àmplies de la clonació de veu poden incloure: 

• L'auge de les aplicacions de clonació de veu que qualsevol pot descarregar i utilitzar.
• Celebritats que lloguen les seves veus per a diversos continguts, com ara podcasts, audiollibres i aplicacions de meditació.
• Augment de les inversions en tecnologies de clonació de veu amb finalitats d'entreteniment, com ara videojocs i doblatge de pel·lícules.
• Els ciberdelinqüents pirategen sistemes d'emmagatzematge en línia d'enregistraments de veu clonats. 
• Empreses de ciberseguretat que desenvolupen solucions especialitzades per a proveïdors de serveis de clonació de veu.
• Els governs creen polítiques i regulacions per protegir les persones i les seves veus contra activitats il·legals.

Preguntes a tenir en compte

• Quins delictes potencials es poden pensar si es clona una veu sense permís?
• Com podria afectar la clonació de veu les indústries de l'entreteniment i les empreses?