Cwantwmrun

CREDYD DELWEDD:

iStock

Deepfakes am hwyl: Pan fydd deepfakes yn dod yn adloniant

Mae gan Deepfakes enw drwg o gamarwain pobl, ond mae mwy o unigolion yn defnyddio apiau cyfnewid wynebau i gynhyrchu cynnwys ar-lein.

Awdur:
enw awdur
Rhagolwg Quantumrun
Medi 23, 2022

Crynodeb mewnwelediad

Mae Deepfakes yn trawsnewid sut rydyn ni'n rhyngweithio â'r cyfryngau, gan ganiatáu i ddefnyddwyr newid wynebau a golygfeydd mewn lluniau a fideos yn rhwydd. Mae'r dechnoleg hon, a geir yn gynyddol mewn apiau a meddalwedd cyfryngau cymdeithasol bob dydd, yn codi pryderon oherwydd ei chamddefnydd posibl o ran creu cynnwys camarweiniol a thorri preifatrwydd. Wrth gynnig posibiliadau creadigol mewn adloniant a mynegiant personol, mae deepfakes hefyd yn ysgogi trafodaethau beirniadol am oblygiadau moesegol a'r angen am ddefnydd cyfrifol.

Deepfakes ar gyfer cyd-destun hwyliog

Mae Deepfakes yn gyfryngau synthetig sy'n defnyddio deallusrwydd artiffisial a thechnoleg dysgu peirianyddol (AI/ML) i brosesu lluniau a fideos o berson neu olygfa a'u cyfuno, eu disodli neu eu hychwanegu at debygrwydd person neu olygfa arall. Defnyddir y dechnoleg ar hyn o bryd i gynhyrchu fideos o bobl adnabyddus, ond mae'n cynyddu mewn poblogrwydd ar hidlwyr ap cyfryngau cymdeithasol. Mae technoleg Deepfake i'w gweld yn aml mewn cymwysiadau ffôn clyfar a bwrdd gwaith poblogaidd sy'n caniatáu i ddefnyddwyr newid mynegiant wyneb pobl mewn ffotograffau a fideos.

Yn unol â hynny, mae'r dechnoleg hon yn dod yn fwy hygyrch trwy ryngwynebau greddfol a phrosesu oddi ar y ddyfais. Er enghraifft, arweiniwyd y defnydd eang o ffugiau dwfn ar gyfryngau cymdeithasol gan yr hidlydd cyfnewid wynebau poblogaidd lle roedd unigolion yn cyfnewid wynebau ei gilydd ar eu dyfeisiau symudol.

Mae Deepfakes yn cael eu gwneud gan ddefnyddio Rhwydwaith Gwrthwynebol Cynhyrchiol (GAN), dull lle mae dwy raglen gyfrifiadurol yn ymladd yn erbyn ei gilydd i sicrhau'r canlyniadau gorau. Mae un rhaglen yn gwneud y fideo, a'r llall yn ceisio gweld camgymeriadau. Y canlyniad yw fideo cyfunol hynod realistig.

O 2023 ymlaen, mae technoleg deepfake ar gael yn bennaf i'r cyhoedd. Nid oes angen sgiliau peirianneg gyfrifiadurol ar bobl mwyach i greu ffuglen ddwfn; gellir ei wneud mewn eiliadau. Mae yna nifer o ystorfeydd GitHub dwfn-gysylltiedig lle mae pobl yn cyfrannu eu gwybodaeth a'u creadigaethau. Yn ôl adroddiad 2023 State of Deepfakes gan y darparwr gwasanaeth cybersecurity Home Security Heroes, mae tua 15 o wefannau a fforymau cymunedol creu deepfake gydag aelodaeth gyfunol o dros 609,464 o unigolion.

Effaith aflonyddgar

Mae technoleg Deepfake yn prysur ennill tyniant yn y diwydiant adloniant i wella ansawdd fideo presennol. Oherwydd y gall ffugiadau dwfn ailadrodd symudiadau gwefusau ac ystumiau wyneb person i gyd-fynd â'r hyn y mae'n ei ddweud, gall gynorthwyo gyda gwelliannau ffilm. Gall y dechnoleg wella ffilmiau du a gwyn, gwella ansawdd fideos amatur neu gyllideb isel, a chreu profiadau mwy realistig i gynulleidfaoedd rhyngwladol.

Er enghraifft, gall deepfakes gynhyrchu sain a alwyd yn gost-effeithiol mewn sawl iaith trwy gyflogi actorion llais lleol. Yn ogystal, gall ffugiau dwfn helpu i greu llais i actor y mae ei allu lleisiol wedi'i golli oherwydd salwch neu anaf. Mae Deepfakes hefyd yn fuddiol i'w defnyddio os oes problemau gyda recordio sain wrth gynhyrchu ffilm.

Mae technoleg Deepfake yn dod yn fwy poblogaidd ymhlith crewyr cynnwys sy'n defnyddio apiau cyfnewid wynebau fel Reface o'r Wcrain. Mae gan y cwmni, Reface, ddiddordeb mewn ehangu ei dechnoleg i gynnwys cyfnewidiadau corff llawn. Mae datblygwyr Reface yn honni, trwy ganiatáu i'r llu gael mynediad i'r dechnoleg hon, y gall pawb brofi byw bywyd gwahanol un fideo efelychiadol ar y tro.

Fodd bynnag, mae pryderon moesegol yn cael eu codi gan y nifer cynyddol o fideos ffug ffug ar gyfryngau cymdeithasol. Yn gyntaf mae'r defnydd o dechnoleg dwfn ffug yn y diwydiant porn, lle mae pobl yn uwchlwytho lluniau o fenywod mewn dillad i ap deepfake a "tynnu" eu dillad oddi arnynt. Mae yna hefyd ddefnydd o fideos wedi'u haddasu mewn nifer o ymgyrchoedd gwybodaeth anghywir proffil uchel, yn enwedig yn ystod etholiadau cenedlaethol. O ganlyniad, mae Google ac Apple wedi gwahardd meddalwedd deepfake sy'n creu cynnwys maleisus o'u siopau app.

Goblygiadau deepfakes am hwyl

Gall goblygiadau ehangach ffugiau dwfn ar gyfer hwyl gynnwys:

Gostyngiad mewn costau effeithiau arbennig ar gyfer crewyr cynnwys sy'n ffilmio golygfeydd sy'n cynnwys unigolion proffil uchel neu'n cynnwys golygfeydd anghysbell neu beryglus.
Apiau a hidlwyr cynyddol soffistigedig yn copïo ystumiau a phatrymau lleferydd, gan arwain at gynnydd mewn gwybodaeth anghywir a defnydd anghyfreithlon o hunaniaethau bywyd go iawn.
Cwmnïau Big Tech yn tynnu sylw at apiau sy'n torri preifatrwydd data ac yn annog lladrad hunaniaeth ar-lein trwy ffugiau dwfn.
Llywodraethau yn cychwyn ymgyrch yn erbyn apiau, gwefannau a chynnwys maleisus sy'n hyrwyddo ansefydlogrwydd cenedlaethol, fel gwrthryfeloedd.
Brandiau'n archwilio cefndir eu partneriaethau â dylanwadwyr, gan gynnwys gwiriadau cefndir, i sicrhau nad ydynt yn cael eu camarwain gan dwyll.
Mae'r diwydiant adloniant yn defnyddio mwy o ffugiau dwfn i gynnwys actorion sydd wedi marw mewn ffilmiau cyfredol, a allai arwain at achosion cyfreithiol a phryderon moesegol.