Generativna kontradiktorna omrežja (GAN): doba sintetičnih medijev

• Avtor:
• ime avtorja

  Quantumrun Foresight
• December 5, 2023

Povzetek vpogleda

Generativna kontradiktorna omrežja (GAN), znana po ustvarjanju globokih ponaredkov, ustvarjajo sintetične podatke, ki posnemajo resnične obraze, glasove in manire. Njihova uporaba sega od izboljšave programa Adobe Photoshop do ustvarjanja realističnih filtrov na Snapchatu. Vendar GAN-ji povzročajo etične pomisleke, saj se pogosto uporabljajo za ustvarjanje zavajajočih globoko lažnih videoposnetkov in širjenje dezinformacij. V zdravstvu obstaja zaskrbljenost zaradi zasebnosti podatkov pacientov pri usposabljanju GAN. Kljub tem težavam imajo GAN koristne aplikacije, kot je pomoč pri kazenskih preiskavah. Njihova razširjena uporaba v različnih sektorjih, vključno s filmskim ustvarjanjem in trženjem, je privedla do pozivov k strožjim ukrepom glede zasebnosti podatkov in vladni ureditvi tehnologije GAN.

Kontekst generativnih kontradiktornih omrežij (GAN).

GAN je vrsta globoke nevronske mreže, ki lahko ustvari nove podatke, podobne podatkom, na katerih se usposablja. Dva glavna bloka, ki tekmujeta drug proti drugemu za ustvarjanje vizionarskih stvaritev, se imenujeta generator in diskriminator. Generator je odgovoren za ustvarjanje novih podatkov, medtem ko diskriminator poskuša razlikovati med ustvarjenimi podatki in podatki za usposabljanje. Generator nenehno poskuša preslepiti diskriminatorja z ustvarjanjem informacij, ki so videti čim bolj resnične. Da bi to naredil, se mora generator naučiti osnovne porazdelitve podatkov, kar omogoča GAN-jem, da ustvarijo nove informacije, ne da bi si jih dejansko zapomnili.

Ko so GAN leta 2014 prvič razvili Googlov raziskovalec Ian Goodfellow in njegovi soigralci, je algoritem veliko obetal za strojno učenje. Od takrat so GAN doživeli veliko aplikacij v resničnem svetu v različnih panogah. Adobe na primer uporablja GAN za Photoshop naslednje generacije. Google uporablja moč GAN-jev za ustvarjanje besedila in slik. IBM učinkovito uporablja GAN-je za povečanje podatkov. Snapchat jih uporablja za učinkovite slikovne filtre, Disney pa za super ločljivosti. 

Moteč vpliv

Čeprav je bil GAN ​​prvotno ustvarjen za izboljšanje strojnega učenja, so njegove aplikacije prečkale vprašljiva ozemlja. Na primer, globoko ponarejeni videoposnetki se nenehno ustvarjajo, da posnemajo resnične ljudi in dajo videti, kot da delajo ali govorijo nekaj, česar niso. Bil je na primer videoposnetek nekdanjega ameriškega predsednika Baracka Obame, ki je bivšega predsednika ZDA Donalda Trumpa označil za slabšalni izraz, in izvršni direktor Facebooka Mark Zuckerburg, ki se hvali, da lahko nadzoruje milijarde ukradenih podatkov. Nič od tega se ni zgodilo v resničnem življenju. Poleg tega večina videoposnetkov deepfake cilja na zvezdnice in jih postavlja v pornografske vsebine. GAN lahko tudi ustvarijo izmišljene fotografije iz nič. Na primer, izkazalo se je, da je več računov novinarjev deepfake na LinkedInu in Twitterju ustvarila umetna inteligenca. Te sintetične profile je mogoče uporabiti za ustvarjanje realistično zvenečih člankov in del miselnega vodstva, ki jih lahko propagandisti uporabijo. 

Medtem pa v sektorju zdravstvenega varstva narašča zaskrbljenost glede podatkov, ki lahko uhajajo z uporabo dejanske podatkovne baze bolnikov kot podatkov za usposabljanje algoritmov. Nekateri raziskovalci trdijo, da mora obstajati dodatna varnostna ali maskirna plast za zaščito osebnih podatkov. Čeprav je GAN večinoma znan po svoji sposobnosti zavajanja ljudi, ima pozitivne prednosti. Na primer, maja 2022 je nizozemska policija poustvarila videoposnetek 13-letnega dečka, ki je bil umorjen leta 2003. Z uporabo realističnih posnetkov žrtve policija upa, da bo spodbudila ljudi, da se spomnijo žrtve in se oglasijo nove informacije o hladnem primeru. Policija trdi, da je že prejela več namigov, a jih bo morala preveriti.

Uporaba generativnih kontradiktornih omrežij (GAN)

Nekatere aplikacije generativnih kontradiktornih omrežij (GAN) lahko vključujejo: 

• Filmska industrija ustvarja globoko ponarejeno vsebino za umestitev sintetičnih igralcev in ponovno snemanje prizorov v postprodukcijskih filmih. Ta strategija lahko povzroči dolgoročne prihranke pri stroških, saj igralcem in ekipi ne bo treba plačevati dodatnega nadomestila.
• Vse večja uporaba ponarejenih besedil in videoposnetkov za spodbujanje ideologij in propagande v različnih političnih spektrih.
• Podjetja, ki uporabljajo sintetične videoposnetke za ustvarjanje dovršenih blagovnih znamk in trženjskih kampanj, ne da bi najela dejanske ljudi, razen programerjev.
• Skupine, ki lobirajo za večjo zaščito zasebnosti zdravstvenih in drugih osebnih podatkov. Ta umik lahko pritiska na podjetja, da razvijejo podatke o usposabljanju, ki ne temeljijo na dejanskih zbirkah podatkov. Vendar rezultati morda niso tako natančni.
• Vlade, ki urejajo in spremljajo podjetja, ki proizvajajo tehnologijo GAN, da zagotovijo, da se tehnologija ne uporablja za napačne informacije in goljufije.

Vprašanja za komentiranje

• Ste že imeli izkušnje z uporabo GAN tehnologije? Kakšna je bila izkušnja?
• Kako lahko podjetja in vlade zagotovijo, da se GAN uporablja etično?