Deepfakeak eta jazarpena: eduki sintetikoak nola erabiltzen diren emakumeak jazartzeko

• Egilea:
• Egilearen izena

  Quantumrun Prospektiba
• Abenduaren 14, 2022

Ikuspegiaren laburpena

Deepfake teknologiaren bilakaerak sexu-jazarpen gertakariak areagotu ditu, batez ere emakumeen aurkakoak. Adituek uste dute tratu txarrak okerrera egingo dutela euskarri sintetikoak sortzeko, erabiltzeko eta banatzeko moduari buruzko lege zorrotzagoak ezartzen ez badira. Jazarpenerako deepfake-ak erabiltzeak epe luzerako ondorioak auziak areagotzea eta deepfake teknologia eta iragazki aurreratuagoak izan ditzake.

Deepfakeak eta jazarpen testuingurua

2017an, Reddit webguneko eztabaida mahai bat erabili zen lehen aldiz adimen artifiziala (AI) manipulatutako pornografia hartzeko. Hilabete baten buruan, Reddit haria biral bihurtu zen, eta milaka lagunek euren pornografia faltsuak argitaratu zituzten webgunean. Pornografia edo jazarpen faltsuak sortzeko erabiltzen den eduki sintetikoa gero eta ohikoagoa da, hala ere, interes publikoa maiz desinformazioa eta ezegonkortasun politikoa sustatzen duten propaganda faltsutzeetan oinarritzen da. 

"Deepfake" terminoa "deep learning" eta "fake" konbinazioa da, AIaren laguntzaz argazkiak eta bideoak birsortzeko metodo bat. Eduki horien ekoizpenean funtsezko osagaia ikaskuntza automatikoa (ML) da, eta horrek material faltsuak azkar eta merke sortzea ahalbidetzen du, giza ikusleek detektatzeko gero eta zailagoa dena.

 Sare neuronal bat trebatzen da xede pertsonaren metrajearekin, bideo faltsu bat sortzeko. Entrenamendu-datuetan zenbat eta metraje gehiago erabili, orduan eta errealistagoak izango dira emaitzak; sareak pertsona horren moduak eta beste nortasun-ezaugarriak ikasiko ditu. Sare neuronalak trebatzen direnean, edonork erabil ditzake ordenagailu grafikoen teknikak pertsona baten irudiaren kopia beste aktore edo gorputz bati gainjartzeko. Kopiaketa honek emakumezko ospetsuen eta zibilen material pornografikoen kopurua gorakada eragin du, haien irudiak horrela erabili direla jakin gabe. Sensity AI ikerketa-enpresaren arabera, bideo faltsu guztien ehuneko 90 eta 95 gutxi gorabehera adostasunik gabeko pornografia kategorian sartzen dira.

Eragin disruptiboa

Deepfake-ek mendeku pornografiaren praktika okerrera egin du, batez ere emakumeei zuzenduta umiliazio publikoa eta trauma jasan dezaten. Emakumeen pribatutasuna eta segurtasuna arriskuan jartzen dira azken fineko bideo-teknologia faltsuak gero eta arma gehiago erabiltzen ari diren heinean, adibidez, emakumeak pertsonalki eta profesionalki jazartzea, beldurtzea, apaltzea eta degradatzea. Are okerrago, ez dago eduki mota honen aurkako arau nahikorik.

Esaterako, 2022tik aurrera, AEBetako 46 estatutan debekatuta dago mendeku pornografiaren edukia, eta bi estatuk soilik estaltzen dituzte beren debekuan euskarri sintetikoak esplizituki. Deepfakeak ez dira berez legez kanpokoak, egile-eskubideak urratzen dituztenean edo difamatorio bihurtzen direnean soilik. Muga horiek zaildu egiten dute biktimei lege-ekintzak abiatzea, batez ere ez dagoelako eduki hori behin betiko linean ezabatzeko modurik.

Bien bitartean, beste eduki sintetiko bat, avatarrak (erabiltzaileen sareko irudikapenak), ere erasoak jasaten ari dira. SumOfUs irabazi-asmorik gabeko sustapen-erakundearen 2022ko txosten baten arabera, erakundearen izenean ikertzen ari zen emakume bati eraso omen zioten Horizon Worlds plataforma Metaverse plataforman. Emakumeak jakinarazi zuen beste erabiltzaile batek sexu-erasoa egin ziola bere avatarra besteek ikusten zuten bitartean. Biktimak gertakaria Metaren berri eman zionean, Metako bozeramaile batek esan zuen ikertzaileak Muga pertsonala aukera desaktibatu zuela. Ezaugarri hori 2022ko otsailean sartu zen lehenespenez gaitutako segurtasun neurri gisa eta ezezagunak lau oinetara hurbiltzea eragotzi zuen.

Deepfakeen eta jazarpenen ondorioak

Deepfakeen eta jazarpenen ondorio zabalagoak izan daitezke: 

• Presioa areagotu egin da gobernuek jazarpen eta eraso digitaletarako erabiltzen diren deepfakeen aurkako arau-politika global bat ezartzeko.
• Deepfake teknologiaren biktima diren emakume gehiago, bereziki ospetsuak, kazetariak eta aktibistak.
• Deepfake jazarpenaren eta difamazioaren biktimen auzien areagotzea. 
• Metabertso komunitateetan avatarrekiko eta lineako beste irudikapenekiko jokabide desegokiaren gertakariak areagotu dira.
• Deepfake aplikazio eta iragazki berriak eta gero eta erabilerrazagoak argitaratzen ari dira, eduki errealistak sor ditzaketenak, adostasunik gabeko deepfake edukia merkantilizatzea eraginez, batez ere pornografia.
• Sare sozialak eta webguneak ostatatzeko plataformek gehiago inbertitzen dute beren plataformetan zirkulatzen duten edukia kontrolatzeko, besteak beste, pertsonak debekatu edo talde-orriak kentzea.

Kontuan hartu beharreko galderak

• Nola ari da zure gobernuak jazarpen faltsuei aurre egiten?
• Zeintzuk dira sareko erabiltzaileek deepfake sortzaileek biktimetatik babestu ditzaketen beste modu batzuk?