Deepfakes: Kio ili estas kaj kial ili gravas

• Aŭtoro:
• Aŭtora nomo

  Quantumrun Foresight
• Januaro 19, 2022

Enrigarda resumo

Deepfakes, teknologio kiu permesas la kreadon de hiper-realismaj falsaj videoj aŭ aŭdaĵoj, aperis en 2017 kaj de tiam estigis kaj zorgon kaj ŝancon. Dum la teknologio estis misuzita por krei trompan enhavon, ĝi ankaŭ ofertas eblajn avantaĝojn kiel plibonigo de interreta privateco, transformado de reklamaj strategioj kaj helpado pri policoj. Tamen, la longperspektivaj implicoj de deepfalsoj estas vastaj, intervalante de la bezono de cifereca legopov-edukado kaj la kresko de nova industrio temigis deepfake-detekto, ĝis etikaj konsideroj kaj pliigita energikonsumo.

Deepfakes kunteksto

La esprimo "deepfake" eniris publikan konscion en 2017 kiam Reddit-uzanto dividis pornografiajn klipoj kiuj uzis malfermfontan vizaĝ-interŝanĝan teknologion. En ĉi tiuj videoj, ili interŝanĝis la vizaĝojn de famuloj kiel Scarlett Johansson, Taylor Swift, Gal Gadot kaj aliaj kun pornografiaj prezentistoj. Ĉi tio estis nur la komenco.

Deepfake-teknologio permesas al homoj krei vidbendon aŭ aŭdion de eventoj, kiuj neniam okazis. Ekzemple, famuloj kaj politikistoj trovis sin en videoj farantaj kaj dirante aferojn, kiujn ili neniam vere faris aŭ diris. Zorgoj pri falsaj bildoj kaj sonaĵoj kreitaj de deepfalsaj teknologioj kaŭzis disvastiĝon de kontraŭrimedoj. Por forigi la negativajn efikojn de deepfalsaĵoj, estas esence enkonduki novajn leĝojn. En 2020, sociaj amaskomunikilaj platformoj inkluzive de Twitter kaj Facebook malpermesis deepfalsaĵojn de siaj retoj. 

Necesas kelkajn paŝojn por krei altkvalitan profundan falsaĵon. Unue, rulu milojn da vizaĝpafoj de du personoj tra kodilo. La kodilo elstarigas similecojn inter la du vizaĝoj kaj malaltigas ilin al komunaj trajtoj kunpremante la bildojn. Tiam, la vizaĝoj estas reakiritaj de kunpremitaj fotoj uzante malĉifrilon. Ĉar vizaĝoj estas malsamaj, unu malĉifrilo estas trejnita por reakiri la vizaĝon de la unua persono kaj alia por reakiri la vizaĝon de la dua persono. Post tio, la kreinto devas nutri kodigitajn bildojn en la "malĝustan" malĉifrilon por apliki la vizaĝŝanĝon. 

Disrompa efiko

Deepfalsaĵoj, dum ili prezentas signifajn minacojn, ankaŭ prezentas unikajn ŝancojn. Por individuoj, la kapablo krei realismajn ciferecajn personojn povus transformi interretajn interagojn. Ekzemple, persono povus uzi profundan falsaĵon por konservi privatecon dum videovokoj, prezentante ciferecan avataron anstataŭ sia reala vizaĝo. Ĉi tiu funkcio povus esti precipe utila en situacioj kie persona sekureco aŭ anonimeco estas plej gravaj.

Por korporacioj, deepfalsaĵoj povus redifini reklamajn kaj klientajn engaĝiĝajn strategiojn. Firmaoj povus krei virtualajn reprezentantojn, adaptitajn por resonanci kun malsamaj celgrupoj. Ĉi tiu strategio povus konduki al pli personigitaj kaj efikaj merkatkampanjoj. Tamen, tio ankaŭ levas etikajn konsiderojn, ĉar konsumantoj povas esti trompitaj per hiper-realismaj sed artefaritaj reprezentantaroj.

Registaroj povus uzi profundan falsan teknologion por publika sekureco kaj sekurecaj celoj. Ekzemple, policagentejoj povus uzi profundajn falsaĵojn en pikoperacioj, kreante realismajn scenarojn sen riski homajn oficirojn. Tamen, la potencialo por misuzo estas alta, kaj estas grave ke registaroj starigu striktajn regularojn por malhelpi la misuzon de ĉi tiu teknologio. Longtempe, la efiko de deepfalsoj grandparte dependos de kiom respondece ni uzas kaj reguligas ĉi tiun potencan ilon.

Implikoj de deepfalsaĵoj

Pli larĝaj implicoj de profunda falsa teknologio povas inkludi: 

• Ĝia uzo en policoj por rekonstrui krimlokojn kun la interrilato de tempaj kaj spacaj artefaktoj. 
• Ĝia uzo de modaj podetalaj entreprenoj por krei virtualajn provĉambrojn por klientoj por provi plej ŝatatajn produktojn sen efektive provi ilin.
• Provizante al individuoj novajn ilojn por integriĝo kaj memesprimo en la interreta mondo. Ekzemple, individuoj povus krei avatarojn de si mem por interreta memesprimo.
• La progresinta kaj ĉiea uzo de deepfalsaĵoj tra la amaskomunikilaro de pluraj malbonaj aktoroj. En ĉi tiu plej malbona kazo, deepfalsaĵoj povas difekti la kapablon de socio kredi je tio, kion ili vidas kaj aŭdas, igante pli larĝajn partojn de socio pli sentemaj al propagando kaj diversaj formoj de manipulado.
• Pliiĝo en la postulo je cifereca legopovo edukado, rezultigante pli kleran kaj prudentan loĝantaron, kiu povas pli bone distingi inter reala kaj manipulita enhavo.
• Nova industrio temigis profundan falsan detekto kaj preventado, kreante laborŝancojn kaj ekonomian kreskon.
• Progresoj en artefarita inteligenteco kaj maŝinlernado, puŝante la limojn de tio, kio estas teknologie ebla.
• Pliiĝo en energikonsumo, ĉar la kreado kaj detekto de deepfalsoj postulas signifan komputilan rimedon.

Konsiderindaj demandoj

• Kio estas la eblaj efikoj de deepfalsaĵoj sur la socio?
• Ĉu vi pensas, ke leĝoj enkondukitaj de registaroj helpos forigi la negativajn aplikojn de deepfalsaĵoj? 
• Al kiuj novigoj povas esti aplikata deepfalsa teknologio en la estonteco?