Rhwydweithiau gwrthwynebus cynhyrchiol (GANs): Oedran cyfryngau synthetig

• Awdur:
• enw awdur

  Rhagolwg Quantumrun
• Rhagfyr 5, 2023

Crynodeb mewnwelediad

Mae Rhwydweithiau Gwrthwynebol Cynhyrchiol (GANs), sy'n adnabyddus am greu ffugiau dwfn, yn cynhyrchu data synthetig sy'n dynwared wynebau, lleisiau ac ystumiau bywyd go iawn. Mae eu defnydd yn amrywio o wella Adobe Photoshop i gynhyrchu hidlwyr realistig ar Snapchat. Fodd bynnag, mae GANs yn peri pryderon moesegol, gan eu bod yn aml yn cael eu defnyddio i greu fideos ffug camarweiniol a lledaenu gwybodaeth anghywir. Ym maes gofal iechyd, mae pryder ynghylch preifatrwydd data cleifion mewn hyfforddiant GAN. Er gwaethaf y materion hyn, mae gan GANs gymwysiadau buddiol, fel cynorthwyo ymchwiliadau troseddol. Mae eu defnydd eang ar draws amrywiol sectorau, gan gynnwys gwneud ffilmiau a marchnata, wedi arwain at alwadau am fesurau preifatrwydd data llymach a rheoleiddio technoleg GAN gan y llywodraeth.

Cyd-destun rhwydweithiau gwrthwynebus cynhyrchiol (GANs).

Mae GAN yn fath o rwydwaith niwral dwfn a all gynhyrchu data newydd tebyg i'r data y mae wedi'i hyfforddi arno. Gelwir y ddau brif floc sy'n cystadlu yn erbyn ei gilydd i gynhyrchu creadigaethau gweledigaethol yn gynhyrchydd a gwahaniaethwr. Mae'r cynhyrchydd yn gyfrifol am greu data newydd, tra bod y gwahaniaethwr yn ceisio gwahaniaethu rhwng y data a gynhyrchir a'r data hyfforddi. Mae'r generadur bob amser yn ceisio twyllo'r gwahaniaethwr trwy greu gwybodaeth sy'n edrych mor real â phosib. I wneud hyn, mae angen i'r generadur ddysgu dosbarthiad sylfaenol y data, gan ganiatáu i GANs greu gwybodaeth newydd heb ei chofio mewn gwirionedd.

Pan ddatblygwyd GANs gyntaf yn 2014 gan wyddonydd ymchwil Google Ian Goodfellow a'i gyd-chwaraewyr, dangosodd yr algorithm addewid mawr ar gyfer dysgu peiriannau. Ers hynny, mae GANs wedi gweld llawer o gymwysiadau byd go iawn ar draws gwahanol ddiwydiannau. Er enghraifft, mae Adobe yn defnyddio GANs ar gyfer Photoshop y genhedlaeth nesaf. Mae Google yn defnyddio pŵer GANs ar gyfer cynhyrchu testun a delweddau. Mae IBM yn defnyddio GANs yn effeithiol ar gyfer cynyddu data. Mae Snapchat yn eu defnyddio ar gyfer hidlwyr delwedd effeithlon a Disney ar gyfer datrysiadau gwych. 

Effaith aflonyddgar

Er bod GAN wedi'i greu i ddechrau i wella dysgu peiriannau, mae ei gymwysiadau wedi croesi tiriogaethau amheus. Er enghraifft, mae fideos deepfake yn cael eu creu'n gyson i ddynwared pobl go iawn a gwneud iddo edrych fel eu bod yn gwneud neu'n dweud rhywbeth na wnaethant. Er enghraifft, roedd fideo o gyn-Arlywydd yr Unol Daleithiau Barack Obama yn galw ei gyd-gyn-Arlywydd yr Unol Daleithiau, Donald Trump, yn derm difrïol a Phrif Swyddog Gweithredol Facebook Mark Zuckerburg yn brolio am allu rheoli biliynau o ddata sydd wedi’i ddwyn. Ni ddigwyddodd yr un o'r rhain mewn bywyd go iawn. Yn ogystal, mae'r rhan fwyaf o fideos ffug yn targedu menywod enwog ac yn eu gosod mewn cynnwys pornograffig. Mae GANs hefyd yn gallu creu lluniau ffuglen o'r dechrau. Er enghraifft, daeth sawl cyfrif newyddiadurwr dwfn ar LinkedIn a Twitter i gael eu cynhyrchu gan AI. Gellir defnyddio'r proffiliau synthetig hyn i greu erthyglau sy'n swnio'n realistig a darnau arweinyddiaeth meddwl y gall propagandwyr eu defnyddio. 

Yn y cyfamser, yn y sector gofal iechyd, mae pryderon cynyddol ynghylch data y gellir ei ollwng trwy ddefnyddio cronfa ddata cleifion gwirioneddol fel data hyfforddi ar gyfer yr algorithmau. Mae rhai ymchwilwyr yn dadlau bod yn rhaid cael haen diogelwch neu guddio ychwanegol i ddiogelu gwybodaeth bersonol. Fodd bynnag, er bod GAN yn adnabyddus yn bennaf am ei allu i dwyllo pobl, mae iddo fanteision cadarnhaol. Er enghraifft, ym mis Mai 2022, fe wnaeth heddlu o'r Iseldiroedd ail-greu fideo o fachgen 13 oed a gafodd ei lofruddio yn 2003. Trwy ddefnyddio ffilm realistig o'r dioddefwr, mae'r heddlu'n gobeithio annog pobl i gofio'r dioddefwr a dod ymlaen â gwybodaeth newydd am y cas oer. Mae’r heddlu’n honni eu bod nhw eisoes wedi derbyn sawl awgrym ond y bydd yn rhaid iddyn nhw gynnal gwiriadau cefndir i’w gwirio.

Cymwysiadau rhwydweithiau gwrthwynebus cynhyrchiol (GANs)

Gall rhai cymwysiadau o rwydweithiau gelyniaethus cynhyrchiol (GANs) gynnwys: 

• Y diwydiant gwneud ffilmiau yn creu cynnwys dwfn ffug i osod actorion synthetig ac ail-saethu golygfeydd mewn ffilmiau ôl-gynhyrchu. Gall y strategaeth hon drosi i arbedion cost hirdymor gan na fydd angen iddynt dalu iawndal ychwanegol i actorion a chriw.
• Y defnydd cynyddol o destunau a fideos ffug i hyrwyddo ideolegau a phropaganda ar draws y sbectrwm gwleidyddol gwahanol.
• Cwmnïau sy'n defnyddio fideos synthetig i greu ymgyrchoedd brandio a marchnata cywrain heb logi pobl go iawn ar wahân i raglenwyr.
• Grwpiau'n lobïo am fwy o amddiffyniad preifatrwydd data ar gyfer gofal iechyd a gwybodaeth bersonol arall. Gallai'r hwb hwn roi pwysau ar gwmnïau i ddatblygu data hyfforddi nad ydynt yn seiliedig ar gronfeydd data gwirioneddol. Fodd bynnag, efallai na fydd y canlyniadau mor gywir.
• Llywodraethau sy'n rheoleiddio ac yn monitro cwmnïau sy'n cynhyrchu technoleg GAN i sicrhau nad yw'r dechnoleg yn cael ei defnyddio ar gyfer camwybodaeth a thwyll.

Cwestiynau i wneud sylwadau arnynt

• Ydych chi wedi cael profiad o ddefnyddio technoleg GAN? Sut brofiad oedd?
• Sut gall cwmnïau a llywodraethau sicrhau bod GAN yn cael ei ddefnyddio'n foesegol?