Generaj kontraŭaj retoj (GANoj): La aĝo de sintezaj amaskomunikiloj

• Aŭtoro:
• Aŭtora nomo

  Quantumrun Foresight
• Decembro 5, 2023

Enrigarda resumo

Generative Adversarial Networks (GANoj), konataj pro kreado de profundaj falsaĵoj, generas sintezajn datumojn, kiuj imitas realajn vizaĝojn, voĉojn kaj manierojn. Ilia uzo varias de plibonigo de Adobe Photoshop ĝis generado de realismaj filtriloj sur Snapchat. Tamen, GANoj prezentas etikajn zorgojn, ĉar ili ofte estas uzataj por krei misgvidajn falsajn filmetojn kaj propagandi misinformadon. En sanservo, estas angoro pri pacienca datuma privateco en GAN-trejnado. Malgraŭ tiuj problemoj, GANoj havas utilajn aplikojn, kiel helpi krimajn esplorojn. Ilia ĝeneraligita uzo trans diversaj sektoroj, inkluzive de filmproduktado kaj merkatado, kondukis al postuloj por pli striktaj datumprivateciniciatoj kaj registara reguligo de GAN-teknologio.

Kunteksto de generaj kontraŭaj retoj (GANoj).

GAN estas speco de profunda neŭrala reto, kiu povas generi novajn datumojn similajn al la datumoj, sur kiuj ĝi estas trejnita. La du ĉefaj blokoj, kiuj konkuras unu kontraŭ la alia por produkti viziajn kreaĵojn, estas nomitaj la generatoro kaj diskriminanto. La generatoro respondecas pri kreado de novaj datumoj, dum la diskriminanto provas diferencigi inter la generitaj datumoj kaj la trejnaj datumoj. La generatoro konstante provas trompi la diskriminaciiston kreante informojn, kiuj aspektas kiel eble plej realaj. Por fari tion, la generatoro devas lerni la suban distribuadon de la datenoj, permesante al GANoj krei novajn informojn sen fakte parkerigi ĝin.

Kiam GAN-oj estis unue evoluigitaj en 2014 de la esploristo de Google Ian Goodfellow kaj liaj samteamanoj, la algoritmo montris grandan promeson por maŝinlernado. Ekde tiam, GANoj vidis multajn realmondajn aplikojn tra malsamaj industrioj. Ekzemple, Adobe uzas GANojn por venontgeneracia Photoshop. Guglo uzas la potencon de GAN-oj por kaj generacio de teksto kaj bildoj. IBM efike uzas GANojn por datenpliigo. Snapchat uzas ilin por efikaj bildfiltriloj kaj Disney por superrezolucioj. 

Disrompa efiko

Dum GAN estis komence kreita por plibonigi maŝinlernadon, ĝiaj aplikoj transiris dubindajn teritoriojn. Ekzemple, deepfalsaj videoj estas konstante kreitaj por imiti realajn homojn kaj aspekti, ke ili faras aŭ diras ion, kion ili ne faris. Ekzemple, estis vidbendo de iama usona prezidento Barack Obama nomante samrangan iaman usonan prezidanton Donald Trump malestima termino kaj la ĉefoficisto de Facebook Mark Zuckerburg fanfaronas pri povi kontroli miliardojn da ŝtelitaj datumoj. Neniu el ĉi tiuj okazis en la reala vivo. Krome, plej multaj deepfalsaj filmetoj celas virinajn famulojn kaj metas ilin en pornografian enhavon. GANoj ankaŭ kapablas krei fikciajn fotojn de nulo. Ekzemple, pluraj deepfalsaj ĵurnalistkontoj en LinkedIn kaj Twitter montriĝis esti AI-generitaj. Ĉi tiuj sintezaj profiloj povas esti uzataj por krei realisme sonantajn artikolojn kaj pensajn gvidajn pecojn, kiujn propagandistoj povas uzi. 

Dume, en la sansektoro, estas kreskantaj zorgoj pri datumoj, kiuj povas esti likitaj uzante realan pacientan datumbazon kiel trejnajn datumojn por la algoritmoj. Iuj esploristoj argumentas, ke devas esti plia sekureco aŭ maska ​​tavolo por protekti personajn informojn. Tamen, kvankam GAN estas plejparte konata pro sia kapablo trompi homojn, ĝi havas pozitivajn avantaĝojn. Ekzemple, en majo 2022, polico de Nederlando rekreis vidbendon de 13-jaraĝa knabo kiu estis murdita en 2003. Uzante realisman filmaĵon de la viktimo, la polico esperas instigi homojn memori la viktimon kaj prezentiĝi kun novaj informoj pri la malvarma kazo. La polico asertas, ke ili jam ricevis plurajn konsiletojn sed devos fari fonkontrolojn por kontroli ilin.

Aplikoj de generaj kontraŭaj retoj (GANoj)

Kelkaj aplikoj de generaj kontraŭaj retoj (GANoj) povas inkludi: 

• La filmprodukta industrio kreas profundan falsan enhavon por meti sintezajn aktorojn kaj refilmi scenojn en postproduktitaj filmoj. Ĉi tiu strategio povas tradukiĝi al longperspektivaj kostŝparoj ĉar ili ne bezonos pagi aktorojn kaj skipan kroman kompenson.
• La kreskanta uzo de deepfalsaj tekstoj kaj videoj por reklami ideologiojn kaj propagandon trans la malsama politika spektro.
• Firmaoj uzante sintezajn filmetojn por krei kompleksajn markojn kaj merkatajn kampanjojn sen dungi realajn homojn krom programistoj.
• Grupoj lobiantaj por pliigita datuma privateca protekto por kuracado kaj aliaj personaj informoj. Ĉi tiu repuŝo povas premadi kompaniojn por disvolvi trejnajn datumojn, kiuj ne baziĝas sur realaj datumbazoj. Tamen, la rezultoj eble ne estas tiel precizaj.
• Registaroj reguligantaj kaj monitorantaj firmaojn kiuj produktas GAN-teknologion por certigi ke la teknologio ne estas uzita por misinformado kaj fraŭdo.

Demandoj por komenti

• Ĉu vi spertis uzi GAN-teknologion? Kia estis la sperto?
• Kiel kompanioj kaj registaroj povas certigi, ke GAN estas uzata etike?