Röstkloning: Är voice-as-a-service den nya lönsamma affärsmodellen?

• Författare:
• författarnamn

  Quantumrun Framsyn
• September 8, 2022

Insiktssammanfattning

Syntetisk röstteknik har utvecklats från att koppla ihop inspelat ljud till att använda AI för att skapa övertygande röstkloner. Denna teknik, som gör det möjligt för vem som helst att klona röster med enkla verktyg, vinner dragkraft inom underhållning men väcker etiska och säkerhetsproblem. Dess utbredda tillämpning, från personligt bruk till uthyrning av kändisröster, är kopplat till risker som identitetsstöld och missbruk, vilket understryker behovet av bestämmelser och framsteg inom cybersäkerhet.

Röstkloningskontext

Syntetiska röster producerades en gång genom att spela in mänskliga röster, dela upp dem i små ljudkomponenter och skarva ihop dem. År 2022 har artificiell intelligens och maskininlärning (AI/ML) gjort det möjligt att klona röster exakt och övertygande. Även om detta genombrott har fördelar för underhållningsindustrin, har det också etiska konsekvenser.

Att klona en röst kan låta skrämmande, men allt som behövs är en mikrofon, ett manus och 30 minuter. En person som vill klona sin röst kan skicka sina inspelade ljudfiler för att bearbetas, och om några timmar är deras röst tillgänglig för nedladdning. Sedan kan de, med hjälp av en chatbox, skriva vad som helst på vilket språk som helst, och deras AI-replika kommer att upprepa det. Röstkloning kan ge övertygande ljud som även vänner och familj skulle tro. 

Hela processen ovan möjliggörs av maskininlärning som dramatiskt har utvecklat området för talsyntes. Och till 2025 kan det vara vanligt att kändisar säljer eller hyr ut sina klonade röster för en mängd olika tjänster. Veritone var ett av de första företagen att tillhandahålla en sådan tjänst 2021, vilket gjorde det möjligt för influencers, idrottare och skådespelare att licensiera sina AI-klonade röster för rekommendationer utan att behöva gå till en studio.

Störande inverkan

Offentlig debatt om sofistikerade digitala kloningstekniker som AI-genererade videor brukade fokusera på uppkomsten av svårupptäckta djupförfalskningar med simulerat ljud och deras potential att sprida desinformation och politisk splittring. Röstkloningsteknik har dock sin del av risker och kontroverser. 

En av de mest uppmärksammade applikationerna var användningen av den avlidne kocken Anthony Bourdains röst för 2021 års dokumentär Roadrunner. Tittarna blev chockade, först över användningen av "falsk" ljud, sedan av regissörens skenbara avfärdande av etiska problem. Tittarna uttryckte sin ilska på nätet. Sam Gregory, programledare på Witness (en ideell organisation som arbetar med att använda videoteknik för mänskliga rättigheter), sa att de obekväma reaktionerna på röstkloning Anthony Bourdain speglade människors förväntningar kring avslöjande och samtycke. Gregory noterade att det är viktigt att få samtycke och avslöja tekniken bakom röstkloning för publiken. 

Det finns också oro för de potentiella farorna med teknik för röstkloning. 2019 rapporterade Wall Street Journal ett brottmål som involverade röstkloning. En företagsledare lurades till att överföra 260,000 XNUMX USD till brottslingar som använde en klonad kopia av sin chefs röst. 

Implikationer av röstkloning

Vidare konsekvenser av röstkloning kan inkludera: 

• Framväxten av appar för röstkloning som alla kan ladda ner och använda.
• Kändisar som hyr sina röster för olika innehåll som poddar, ljudböcker och meditationsappar.
• Ökande investeringar i teknik för röstkloning för underhållningsändamål som videospel och filmdubbning.
• Cyberbrottslingar hackar onlinelagringssystem av klonade röstinspelningar. 
• Cybersäkerhetsföretag utvecklar specialiserade lösningar för leverantörer av röstkloningstjänster.
• Regeringar skapar policyer och regler för att skydda människor och deras röster mot olaglig verksamhet.

Frågor att överväga

• Vilka potentiella brott kan du komma på om en röst klonas utan tillstånd?
• Hur annars kan röstkloning påverka underhållnings- och affärsindustrin?