Clonazione vocale: il voice-as-a-service è il nuovo modello di business redditizio?

• Autore:
• Nome dell'autore

  Preveggenza quantistica
• 8 settembre 2022

Riepilogo approfondimenti

La tecnologia vocale sintetica si è evoluta dal mettere insieme l’audio registrato all’utilizzo dell’intelligenza artificiale per creare cloni vocali convincenti. Questa tecnologia, che consente a chiunque di clonare voci con strumenti semplici, sta guadagnando terreno nel settore dell’intrattenimento ma solleva preoccupazioni etiche e di sicurezza. La sua ampia applicazione, dall’uso personale al noleggio di voci di celebrità, è accompagnata da rischi come il furto di identità e l’abuso, evidenziando la necessità di normative e progressi nella sicurezza informatica.

Contesto di clonazione vocale

Le voci sintetiche un tempo venivano prodotte registrando le voci umane, suddividendole in piccole componenti audio e unendole insieme. Entro il 2022, l'intelligenza artificiale e l'apprendimento automatico (AI/ML) hanno consentito di clonare le voci in modo accurato e convincente. Sebbene questa svolta abbia vantaggi per l'industria dell'intrattenimento, ha anche implicazioni etiche.

Clonare una voce potrebbe sembrare scoraggiante, ma tutto ciò che serve sono un microfono, una sceneggiatura e 30 minuti. Una persona che vuole clonare la propria voce può inviare i propri file audio registrati da elaborare e, in poche ore, la propria voce è disponibile per il download. Quindi, utilizzando una chatbox, possono digitare qualsiasi cosa in qualsiasi lingua e la loro replica AI lo ripeterà. La clonazione vocale può fornire un audio convincente a cui crederebbero anche amici e familiari. 

L'intero processo di cui sopra è reso possibile dall'apprendimento automatico che ha notevolmente migliorato il campo della sintesi vocale. Ed entro il 2025, potrebbe essere comune per le celebrità vendere o affittare le loro voci clonate per una varietà di servizi. Veritone è stata una delle prime aziende a fornire un servizio del genere nel 2021, consentendo a influencer, atleti e attori di concedere in licenza le loro voci clonate dall'IA per sponsorizzazioni senza la necessità di andare in uno studio.

Impatto dirompente

Il dibattito pubblico sulle sofisticate tecnologie di clonazione digitale come i video generati dall'intelligenza artificiale si concentrava sull'aumento dei deepfake difficili da rilevare con audio simulato e sul loro potenziale di diffondere disinformazione e divisione politica. Tuttavia, la tecnologia di clonazione vocale ha la sua quota di rischi e controversie. 

Una delle applicazioni di più alto profilo è stata l'uso della voce dello chef defunto Anthony Bourdain per il documentario del 2021 Roadrunner. Gli spettatori sono rimasti scioccati, prima dall'uso di audio "falso", poi dall'apparente rifiuto delle preoccupazioni etiche da parte del regista. Gli spettatori hanno espresso la loro rabbia online. Sam Gregory, il direttore del programma di Witness (un'organizzazione no profit che lavora sull'uso della tecnologia video per i diritti umani), ha affermato che le reazioni scomode alla clonazione della voce di Anthony Bourdain riflettevano le aspettative delle persone in merito alla divulgazione e al consenso. Gregory ha osservato che ottenere il consenso e rivelare al pubblico la tecnologia alla base della clonazione vocale è essenziale per andare avanti. 

Ci sono anche preoccupazioni sui potenziali pericoli della tecnologia di clonazione vocale. Nel 2019, il Wall Street Journal ha segnalato un procedimento penale che riguardava la clonazione della voce. Un business manager è stato indotto con l'inganno a trasferire $ 260,000 USD a criminali che hanno utilizzato una copia clonata della voce del suo capo. 

Implicazioni della clonazione vocale

Implicazioni più ampie della clonazione vocale possono includere: 

• L'ascesa delle app di clonazione vocale che chiunque può scaricare e utilizzare.
• Celebrità che affittano le loro voci per vari contenuti come podcast, audiolibri e app di meditazione.
• Aumentare gli investimenti nelle tecnologie di clonazione vocale per scopi di intrattenimento come videogiochi e doppiaggio di film.
• I criminali informatici hackerano i sistemi di archiviazione online delle registrazioni vocali clonate. 
• Società di sicurezza informatica che sviluppano soluzioni specializzate per i fornitori di servizi di clonazione vocale.
• Governi che creano politiche e regolamenti per proteggere le persone e le loro voci contro le attività illegali.

Domande da considerare

• A quali potenziali crimini puoi pensare se una voce viene clonata senza permesso?
• In quale altro modo la clonazione vocale potrebbe influire sui settori dell'intrattenimento e degli affari?