Rețele adverse generative (GAN): Epoca mediilor sintetice

• Autor:
• Numele autorului

  Previziune Quantumrun
• December 5, 2023

Rezumat perspectivă

Rețelele adverse generative (GAN), cunoscute pentru crearea de deepfake-uri, generează date sintetice care imită fețele, vocile și manierele din viața reală. Utilizarea lor variază de la îmbunătățirea Adobe Photoshop până la generarea de filtre realiste pe Snapchat. Cu toate acestea, GAN-urile ridică preocupări etice, deoarece sunt adesea folosite pentru a crea videoclipuri deepfake înșelătoare și pentru a propaga dezinformări. În domeniul sănătății, există îngrijorare cu privire la confidențialitatea datelor pacienților în formarea GAN. În ciuda acestor probleme, GAN-urile au aplicații benefice, cum ar fi sprijinirea anchetelor penale. Utilizarea lor pe scară largă în diferite sectoare, inclusiv producția de film și marketing, a condus la solicitări pentru măsuri mai stricte de confidențialitate a datelor și reglementări guvernamentale ale tehnologiei GAN.

Contextul rețelelor adverse generative (GAN).

GAN este un tip de rețea neuronală profundă care poate genera date noi similare cu datele pe care este antrenat. Cele două blocuri principale care concurează unul împotriva celuilalt pentru a produce creații vizionare sunt numite generator și discriminator. Generatorul este responsabil pentru crearea de noi date, în timp ce discriminatorul încearcă să facă diferența între datele generate și datele de antrenament. Generatorul încearcă în mod constant să păcălească discriminatorul creând informații care par cât mai reale posibil. Pentru a face acest lucru, generatorul trebuie să învețe distribuția subiacentă a datelor, permițând GAN-urilor să creeze informații noi fără a le memora efectiv.

Când GAN-urile au fost dezvoltate pentru prima dată în 2014 de cercetătorul Google Ian Goodfellow și colegii săi de echipă, algoritmul a arătat o mare promisiune pentru învățarea automată. De atunci, GAN-urile au văzut o mulțime de aplicații din lumea reală în diferite industrii. De exemplu, Adobe folosește GAN-urile pentru Photoshop de următoarea generație. Google folosește puterea GAN atât pentru generarea de text, cât și de imagini. IBM utilizează eficient GAN-urile pentru creșterea datelor. Snapchat le folosește pentru filtre de imagine eficiente și Disney pentru rezoluții super. 

Impact perturbator

În timp ce GAN a fost creat inițial pentru a îmbunătăți învățarea automată, aplicațiile sale au traversat teritorii discutabile. De exemplu, videoclipurile deepfake sunt create în mod constant pentru a imita oameni reali și pentru a face să pară că fac sau spun ceva ce nu au făcut. De exemplu, a existat un videoclip în care fostul președinte american Barack Obama îl numește pe fostul președinte al SUA, Donald Trump, un termen derogatoriu, iar CEO-ul Facebook, Mark Zuckerburg, se lăuda că poate controla miliarde de date furate. Nimic dintre acestea nu s-a întâmplat în viața reală. În plus, majoritatea videoclipurilor deepfake vizează femei celebrități și le plasează în conținut pornografic. GAN-urile sunt, de asemenea, capabile să creeze fotografii fictive de la zero. De exemplu, mai multe conturi de jurnaliști deepfake pe LinkedIn și Twitter s-au dovedit a fi generate de inteligență artificială. Aceste profiluri sintetice pot fi folosite pentru a crea articole cu sunet realist și piese de lider de gândire pe care propagandiștii le pot folosi. 

Între timp, în sectorul asistenței medicale, există preocupări tot mai mari cu privire la datele care pot fi scurse prin utilizarea unei baze de date efective de pacienți ca date de antrenament pentru algoritmi. Unii cercetători susțin că trebuie să existe un strat suplimentar de securitate sau de mascare pentru a proteja informațiile personale. Cu toate acestea, deși GAN este cunoscut în mare parte pentru capacitatea sa de a înșela oamenii, are beneficii pozitive. De exemplu, în mai 2022, poliția din Țările de Jos a recreat un videoclip cu un băiat de 13 ani care a fost ucis în 2003. Folosind imagini realiste ale victimei, poliția speră să încurajeze oamenii să-și amintească victima și să devină informații noi referitoare la cazul rece. Polițiștii susțin că au primit deja mai multe ponturi, dar vor trebui să efectueze verificări ale antecedentelor pentru a le verifica.

Aplicații ale rețelelor adverse generative (GAN)

Unele aplicații ale rețelelor adverse generative (GAN) pot include: 

• Industria cinematografică creează conținut deepfake pentru a plasa actori sintetici și a reînregistra scene în filme post-produse. Această strategie se poate traduce în economii de costuri pe termen lung, deoarece aceștia nu vor trebui să plătească despăgubiri suplimentare actorilor și echipajului.
• Utilizarea din ce în ce mai mare a textelor și videoclipurilor deepfake pentru a promova ideologii și propagandă în diferitele spectruri politice.
• Companiile care folosesc videoclipuri sintetice pentru a crea campanii elaborate de branding și marketing fără a angaja oameni reali în afară de programatori.
• Grupuri care fac lobby pentru o protecție sporită a confidențialității datelor pentru asistența medicală și alte informații personale. Această respingere poate face presiuni asupra companiilor să dezvolte date de instruire care nu se bazează pe baze de date reale. Cu toate acestea, este posibil ca rezultatele să nu fie la fel de precise.
• Guvernele care reglementează și monitorizează firmele care produc tehnologie GAN pentru a se asigura că tehnologia nu este utilizată pentru dezinformare și fraudă.

Întrebări de comentat

• Ai experimentat utilizarea tehnologiei GAN? Cum a fost experiența?
• Cum pot companiile și guvernele să se asigure că GAN este utilizat în mod etic?