Stemmekloning: Er voice-as-a-service den nye rentable forretningsmodel?

• Forfatter:
• Forfatter navn

  Quantumrun Foresight
• September 8, 2022

Oversigt over indsigt

Syntetisk stemmeteknologi har udviklet sig fra at sammensætte optaget lyd til at bruge AI til at skabe overbevisende stemmekloner. Denne teknologi, der gør det muligt for enhver at klone stemmer med enkle værktøjer, vinder indpas i underholdningen, men rejser etiske og sikkerhedsmæssige bekymringer. Dens udbredte anvendelse, fra personlig brug til udlejning af berømtheder, er kombineret med risici som identitetstyveri og misbrug, hvilket understreger behovet for regler og fremskridt inden for cybersikkerhed.

Stemmekloningskontekst

Syntetiske stemmer blev engang produceret ved at optage menneskestemmer, opdele dem i små lydkomponenter og splejse dem sammen. I 2022 har kunstig intelligens og maskinlæring (AI/ML) gjort det muligt at klone stemmer præcist og overbevisende. Selvom dette gennembrud har fordele for underholdningsindustrien, har det også etiske implikationer.

At klone en stemme kan lyde skræmmende, men det eneste, der skal til, er en mikrofon, et manuskript og 30 minutter. En person, der ønsker at klone deres stemme, kan sende deres optagede lydfiler til behandling, og om et par timer er deres stemme tilgængelig til download. Ved hjælp af en chatboks kan de derefter skrive hvad som helst på et hvilket som helst sprog, og deres AI-replika vil gentage det. Stemmekloning kan give overbevisende lyd, som selv venner og familie ville tro. 

Hele processen ovenfor er muliggjort af maskinlæring, som dramatisk har fremmet området for talesyntese. Og i 2025 kan det være almindeligt, at berømtheder sælger eller lejer deres klonede stemmer til en række forskellige tjenester. Veritone var et af de første firmaer, der leverede en sådan service i 2021, hvilket gjorde det muligt for influencers, atleter og skuespillere at licensere deres AI-klonede stemmer til godkendelser uden at skulle gå til et studie.

Forstyrrende påvirkning

Offentlig debat om sofistikerede digitale kloningsteknologier som AI-genererede videoer bruges til at fokusere på stigningen af ​​svære at opdage deepfakes med simuleret lyd og deres potentiale til at sprede misinformation og politisk splittelse. Stemmekloningsteknologi har dog sin del af risici og kontroverser. 

En af de mest profilerede applikationer var brugen af ​​den afdøde kok Anthony Bourdains stemme til 2021-dokumentaren Roadrunner. Seerne var chokerede, først over brugen af ​​'falsk' lyd, derefter over instruktørens tilsyneladende afvisning af etiske bekymringer. Seerne udtrykte deres vrede online. Sam Gregory, programdirektøren hos Witness (en nonprofitorganisation, der arbejder på at bruge videoteknologi til menneskerettigheder), udtalte, at de ubehagelige reaktioner på stemmekloning Anthony Bourdain afspejlede folks forventninger omkring offentliggørelse og samtykke. Gregory bemærkede, at det er vigtigt at opnå samtykke og afsløre teknologien bag stemmekloning til publikum. 

Der er også bekymringer om de potentielle farer ved stemmekloningsteknologi. I 2019 rapporterede Wall Street Journal en straffesag, der involverede stemmekloning. En virksomhedsleder blev bedraget til at overføre 260,000 USD til kriminelle, der brugte en klonet kopi af sin chefs stemme. 

Implikationer af stemmekloning

Bredere implikationer af stemmekloning kan omfatte: 

• Fremkomsten af ​​stemmekloningsapps, som alle kan downloade og bruge.
• Berømtheder lejer deres stemmer til forskelligt indhold som podcasts, lydbøger og meditationsapps.
• Stigende investeringer i stemmekloningsteknologier til underholdningsformål som videospil og filmoverspilning.
• Cyberkriminelle hacker online lagringssystemer af klonede stemmeoptagelser. 
• Cybersikkerhedsvirksomheder, der udvikler specialiserede løsninger til udbydere af stemmekloning.
• Regeringer skaber politikker og regler for at beskytte mennesker og deres stemmer mod ulovlige aktiviteter.

Spørgsmål at overveje

• Hvilke potentielle forbrydelser kan du tænke på, hvis en stemme klones uden tilladelse?
• Hvordan kan stemmekloning ellers påvirke underholdnings- og forretningsindustrien?