Deepfakes: Beth ydyn nhw a pham maen nhw'n bwysig

• Awdur:
• enw awdur

  Rhagolwg Quantumrun
• Ionawr 19, 2022

Crynodeb mewnwelediad

Daeth Deepfakes, technoleg sy'n caniatáu creu fideos neu sain ffug hyper-realistig, i'r amlwg yn 2017 ac ers hynny mae wedi tanio pryder a chyfle. Er bod y dechnoleg wedi'i chamddefnyddio i greu cynnwys twyllodrus, mae hefyd yn cynnig buddion posibl fel gwella preifatrwydd ar-lein, trawsnewid strategaethau hysbysebu, a chynorthwyo â gorfodi'r gyfraith. Fodd bynnag, mae goblygiadau hirdymor ffugiau dwfn yn enfawr, yn amrywio o'r angen am addysg llythrennedd digidol a thwf diwydiant newydd sy'n canolbwyntio ar ganfod ffug ffug, i ystyriaethau moesegol a mwy o ddefnydd o ynni.

Cyd-destun Deepfakes

Daeth y term “deepfake” i ymwybyddiaeth y cyhoedd yn 2017 pan rannodd defnyddiwr Reddit glipiau pornograffig a ddefnyddiodd dechnoleg cyfnewid wyneb ffynhonnell agored. Yn y fideos hyn, fe wnaethant gyfnewid wynebau enwogion fel Scarlett Johansson, Taylor Swift, Gal Gadot, ac eraill â pherfformwyr pornograffig. Dim ond y dechrau oedd hyn.

Mae technoleg Deepfake yn caniatáu i bobl greu fideo neu sain o ddigwyddiadau na ddigwyddodd erioed. Er enghraifft, mae enwogion a gwleidyddion wedi cael eu hunain mewn fideos yn gwneud ac yn dweud pethau nad ydyn nhw erioed wedi'u gwneud na'u dweud mewn gwirionedd. Arweiniodd pryderon ynghylch delweddau ffug a sain a grëwyd gan dechnolegau dwfn ffug at doreth o wrthfesurau. Er mwyn dileu effeithiau negyddol ffugiau dwfn, mae'n hanfodol cyflwyno deddfau newydd. Yn 2020, gwaharddodd llwyfannau cyfryngau cymdeithasol gan gynnwys Twitter a Facebook ffugiau dwfn o'u rhwydweithiau. 

Mae'n cymryd ychydig o gamau i greu clip dwfn o ansawdd uchel. Yn gyntaf, rhedwch filoedd o luniau wyneb o ddau berson trwy amgodiwr. Mae'r amgodiwr yn amlygu tebygrwydd rhwng y ddau wyneb ac yn eu gostwng i nodweddion a rennir trwy gywasgu'r delweddau. Yna, mae'r wynebau'n cael eu hadennill o luniau cywasgedig gan ddefnyddio datgodiwr. Gan fod wynebau'n wahanol, mae un datgodiwr wedi'i hyfforddi i adfer wyneb y person cyntaf ac un arall i adfer wyneb yr ail berson. Ar ôl hynny, mae angen i'r crëwr fwydo lluniau wedi'u hamgodio i'r datgodiwr "anghywir" i gymhwyso'r cyfnewid wyneb. 

Effaith aflonyddgar

Mae Deepfakes, er eu bod yn fygythiadau sylweddol, hefyd yn cyflwyno cyfleoedd unigryw. I unigolion, gallai'r gallu i greu personas digidol realistig drawsnewid rhyngweithiadau ar-lein. Er enghraifft, gallai person ddefnyddio ffuglen ddwfn i gynnal preifatrwydd yn ystod galwadau fideo, gan gyflwyno avatar digidol yn lle ei wyneb go iawn. Gallai'r nodwedd hon fod yn arbennig o ddefnyddiol mewn sefyllfaoedd lle mae diogelwch personol neu fod yn ddienw yn hollbwysig.

Ar gyfer corfforaethau, gallai deepfakes ailddiffinio strategaethau hysbysebu ac ymgysylltu â chwsmeriaid. Gallai cwmnïau greu llefarwyr rhithwir, wedi'u teilwra i atseinio gwahanol gynulleidfaoedd targed. Gallai'r strategaeth hon arwain at ymgyrchoedd marchnata mwy personol ac effeithiol. Fodd bynnag, mae hyn hefyd yn codi ystyriaethau moesegol, oherwydd gall defnyddwyr gael eu twyllo gan gynrychioliadau hyper-realistig ond artiffisial.

Gallai llywodraethau ddefnyddio technoleg ffug ffug at ddibenion diogelwch y cyhoedd a diogelwch. Er enghraifft, gallai asiantaethau gorfodi'r gyfraith ddefnyddio ffugiau dwfn mewn gweithrediadau pigo, gan greu senarios realistig heb roi swyddogion dynol mewn perygl. Fodd bynnag, mae'r potensial ar gyfer camddefnydd yn uchel, ac mae'n hanfodol i lywodraethau sefydlu rheoliadau llym i atal camddefnydd o'r dechnoleg hon. Yn y tymor hir, bydd effaith deepfakes yn dibynnu i raddau helaeth ar ba mor gyfrifol yr ydym yn defnyddio ac yn rheoleiddio'r offeryn pwerus hwn.

Goblygiadau deepfakes

Gall goblygiadau ehangach technoleg ffug gynnwys: 

• Ei ddefnydd mewn gorfodi'r gyfraith i ail-greu lleoliadau trosedd gyda rhyngberthynas arteffactau amser a gofodol. 
• Ei ddefnydd gan fusnesau manwerthu ffasiwn i greu ystafelloedd treial rhithwir i gwsmeriaid roi cynnig ar hoff gynhyrchion heb roi cynnig arnynt mewn gwirionedd.
• Darparu offer newydd i unigolion ar gyfer integreiddio a hunanfynegiant yn y byd ar-lein. Er enghraifft, gallai unigolion greu avatars ohonyn nhw eu hunain ar gyfer hunanfynegiant ar-lein.
• Y defnydd datblygedig a threiddiol o ffugiau dwfn ar draws y cyfryngau gan actorion drwg lluosog. Yn y sefyllfa waethaf hon, gall ffugiau dwfn amharu ar allu cymdeithas i gredu yn yr hyn y maent yn ei weld a'i glywed, gan wneud rhannau ehangach o gymdeithas yn fwy agored i bropaganda a gwahanol fathau o drin.
• Ymchwydd yn y galw am addysg llythrennedd digidol, gan arwain at boblogaeth fwy gwybodus a chraff a all wahaniaethu'n well rhwng cynnwys go iawn a chynnwys wedi'i drin.
• Roedd diwydiant newydd yn canolbwyntio ar ganfod ac atal dwfn ffug, creu cyfleoedd gwaith a thwf economaidd.
• Datblygiadau mewn deallusrwydd artiffisial a dysgu peirianyddol, gan wthio ffiniau'r hyn sy'n dechnolegol bosibl.
• Cynnydd yn y defnydd o ynni, gan fod angen adnoddau cyfrifiadurol sylweddol i greu a chanfod ffug-fakes.

Cwestiynau i'w hystyried

• Beth yw effeithiau posibl ffugiau dwfn ar gymdeithas?
• Ydych chi'n meddwl y bydd deddfau a gyflwynir gan lywodraethau yn helpu i ddileu cymwysiadau negyddol ffug ffug? 
• Pa ddatblygiadau arloesol y gellir cymhwyso technoleg ffug iddynt yn y dyfodol?