Trg sintetičnih medijev: Ustvarjanje vrednosti za vsebino, ustvarjeno z umetno inteligenco

• Avtor:
• ime avtorja

  Quantumrun Foresight
• Marec 23, 2022

Povzetek vpogleda

Sintetični mediji, zlasti deepfakes, so hitro razvijajoča se tehnologija, ki jo je mogoče uporabiti za spreminjanje videoposnetkov in napačno prikazovanje dejanj ali besed osebe. Od zgodnjih stopenj kot orodje za ljubitelje do trenutnega podtalnega trga se aplikacije tehnologije raztezajo od umetniškega ustvarjanja do morebitnega lažnega predstavljanja v kriminalu in politične manipulacije. Dolgoročne posledice tega trenda vključujejo spremembe v kulturnih normah, pravnih okvirih, oglaševalskih strategijah in celo izobraževalnih sistemih.

Trg za kontekst sintetičnih medijev

„Sintetični mediji“ se nanašajo na proizvodnjo podatkov ali medijev z uporabo umetne inteligence, običajno za zavajanje ljudi ali spreminjanje pomena medija. Glede na aplikacije se lahko sintetični mediji pogosteje uporabljajo v kriminalne ali politične namene. Najbolj znana oblika sintetičnih medijev so »deepfakes«, kjer ustvarjalec posname videoposnetek in uredi obraz osebe, da nadomesti tistega, ki je videti v videu. Ta tehnologija lahko napačno predstavi udeležbo osebe pri dejanju, ki ga posname kamera.

Obveščevalno podjetje Deeptrace je predvidelo, da sta se tehnološki razvoj in uporaba sintetičnih medijev razvila v treh fazah. Prva faza razvoja je bil čas, ko je bila tehnologija še nova in neregulirana, saj je bila omejena predvsem na hobiste. Ta stopnja je medtem minila. 

Druga faza, ki poteka zdaj (2020 do 2025), je, ko tehnologija postane dovolj razširjena, da se pojavi podzemni trg, ki izpolnjuje ponudbo in povpraševanje. Glede na vprašljivo pravno naravo sintetičnih medijev je ta trg trenutno pod zemljo in le delno reguliran. Trenutni sintetični medijski izdelki so večinoma pornografski, medtem ko parodična dela, ki se pojavljajo kot posebni filtri na družbenih platformah, kot so Instagram, Snapchat in TikTok, tvorijo manjšino tovrstnih stvaritev.

Moteč vpliv

Razvoj tehnologije sintetičnih medijev, zlasti globokih ponaredkov, ima posledice, ki daleč presegajo sedanje aplikacije. Ko bo tehnologija dozorela, bo lahko postala močno orodje za kriminalno lažno predstavljanje in dejavnosti nacionalne države. Za posameznike bi morebitna zloraba globokih ponaredkov lahko povzročila osebno in finančno škodo.

Predstavljajte si scenarij, v katerem videoposnetek deepfake prepričljivo prikazuje osebo, ki priznava kaznivo dejanje, ki ga ni storila, ali se ukvarja z drugim škodljivim vedenjem. Ta trend lahko povzroči škodo ugledu, pravne težave ali celo skrbi za osebno varnost. Posamezniki bodo morda morali postati bolj pozorni in se zavedati vsebine, ki jo uživajo, ter razumeti, da videti ni več nujno verjeti.

Podjetja se lahko soočijo z izzivi, povezanimi s krajo intelektualne lastnine, goljufijami in korporativnim vohunjenjem. Dobro izdelan globoki ponaredek bi lahko uporabili za lažno predstavljanje izvršnega direktorja v videokonferenci, kar bi privedlo do objave občutljivih informacij. Vlade bodo morda morale prevzeti dejavnejšo vlogo pri urejanju proizvodnje in razširjanja globokih ponaredkov, pri čemer naj bodo potrebe po inovacijah in svobodi govora uravnotežene s potencialnimi tveganji za varnost in zasebnost. Obstoječi zakoni, ki ciljajo na globoko ponarejeno pornografijo in politično uporabo, so šele začetek in morda bo treba razviti celovitejši pravni okvir za obravnavanje širših tveganj in etičnih vidikov te nastajajoče tehnologije.

Posledice trga sintetičnih medijev

Širše posledice trga sintetičnih medijev lahko vključujejo:

• Financiranje nadaljnjega razvoja tehnologije sintetičnih medijev, ki vodi k nastanku novih umetniških oblik in zabavnih zvrsti, prav tako pa ustvarjanje sintetičnih medijev v privlačno nišo za ustvarjalce vsebin.
• Povečanje podzemnega dostopa do ustvarjalcev sintetičnih medijev, kar sčasoma vodi do morebitne legitimizacije niše, kar lahko vpliva na način uživanja in urejanja vsebine.
• Spodbujanje večjega sprejemanja globokih ponaredkov za pornografsko in parodično uporabo, kar vodi do sprememb v kulturnih normah in potencialno izpodbija obstoječe pravne okvire glede obscenosti in satire.
• Spodbujanje uporabe globokih ponaredkov za lažno predstavljanje ali goljufive namene, kar vodi do večjih varnostnih ukrepov in pazljivosti v osebni in poklicni komunikaciji.
• Razvoj novih orodij in metod za odkrivanje globokih ponaredkov in boj proti njim, kar vodi v nenehno oboroževalno tekmo med ustvarjalci in detektorji, kar vpliva na tehnološko industrijo in organe pregona.
• Premik v strategijah oglaševanja in trženja z uporabo sintetičnih medijev za ustvarjanje zelo personalizirane vsebine, kar vodi do bolj ciljno usmerjenih in učinkovitih kampanj, hkrati pa vzbuja etične pomisleke glede manipulacije in soglasja.
• Vključevanje sintetičnih medijev v izobraževalne sisteme, kar vodi do izboljšanih učnih izkušenj, vendar zahteva tudi nove smernice za zagotavljanje točnosti in etične uporabe.
• Potencialna uporaba globokih ponaredkov v političnih kampanjah, kar vodi do strožjih predpisov in javnega diskurza o avtentičnosti, preglednosti in vlogi tehnologije v demokraciji.

Vprašanja, ki jih je treba upoštevati

• Kako hitro mislite, da bo tehnologija deepfake napredovala do te mere, da bodo verjetni deepfake dosegljivi?
• Kako stroga bi morala biti zakonodaja glede sintetičnih medijev? Oziroma kako odgovorno regulirati take medije?