Djúpfalsanir og áreitni: Hvernig tilbúið efni er notað til að áreita konur

• Höfundur:
• Höfundur nafn

  Quantumrun Foresight
• Desember 14, 2022

Innsýn samantekt

Þróun í djúpfalsunartækni hefur leitt til vaxandi kynferðislegrar áreitni, sérstaklega gegn konum. Sérfræðingar telja að misnotkun muni versna nema strangari lögum um hvernig gervimiðlar eru búnir til, notaðir og dreift verði framfylgt. Langtímaáhrif þess að nota djúpfalsa til áreitni gætu falið í sér aukin málsókn og fullkomnari djúpfalstækni og síur.

Djúpfalsanir og áreitni samhengi

Árið 2017 var umræðuborð á vefsíðunni Reddit notað til að hýsa gervigreind (AI)-stýrt klám í fyrsta skipti. Innan mánaðar fór Reddit þráðurinn um víðan völl og þúsundir manna höfðu sett djúpgert klám sitt á síðuna. Tilbúið efni sem notað er til að búa til falsað klám eða áreitni er sífellt algengara en samt sem áður beinast almannahagsmunir oft að djúpum áróðri sem stuðla að óupplýsingum og pólitískum óstöðugleika. 

Hugtakið „deepfake“ er sambland af „deep learning“ og „fake“, aðferð til að endurgera ljósmyndir og myndbönd með hjálp gervigreindar. Mikilvægur þáttur í framleiðslu þessa efnis er vélanám (ML), sem gerir kleift að búa til gerviefni á hraðri og ódýran hátt sem er sífellt erfiðara fyrir áhorfendur að greina.

 Taugakerfi er þjálfað með myndefni af viðkomandi einstaklingi til að búa til djúpfalsk myndband. Því meira myndefni sem notað er í þjálfunargögnunum, því raunhæfari verða niðurstöðurnar; netið mun læra hegðun viðkomandi og önnur persónueinkenni. Þegar tauganetið hefur verið þjálfað getur hver sem er notað tölvugrafík til að setja afrit af líkingu einstaklings ofan á annan leikara eða líkama. Þessi afritun hefur leitt til aukins fjölda klámefnis af kvenkyns frægum og óbreyttum borgurum sem hafa ekki vitað að myndir þeirra hafi verið notaðar á þennan hátt. Samkvæmt rannsóknarfyrirtækinu Sensity AI falla u.þ.b. 90 til 95 prósent af öllum djúpfölsuðum myndböndum í flokkinn klám án samþykkis.

Truflandi áhrif

Djúpfalsanir hafa versnað hefndarklám, fyrst og fremst miðað við konur til að afhjúpa þær fyrir opinberri niðurlægingu og áföllum. Friðhelgi kvenna og öryggi kvenna er stefnt í hættu þar sem fölsuð myndbandstækni frá enda til enda er í auknum mæli beitt vopnum, td áreitni, hótunum, niðurlægjandi og niðurlægjandi konur persónulega og faglega. Það sem verra er, það er ekki nóg reglugerð gegn þessari tegund af efni.

Til dæmis, frá og með 2022, er hefndarklámefni bannað í 46 ríkjum Bandaríkjanna, og aðeins tvö ríki fjalla sérstaklega um gervimiðla í banninu. Djúpfalsar eru ekki ólöglegar í sjálfu sér, aðeins þegar þær brjóta höfundarrétt eða verða ærumeiðandi. Þessar takmarkanir gera fórnarlömbum erfitt fyrir að höfða mál, sérstaklega þar sem engin leið er til að eyða þessu efni á netinu varanlega.

Á sama tíma er önnur tegund gerviefnis, avatarar (myndir notenda á netinu), einnig fyrir árásum. Samkvæmt skýrslu frá 2022 frá félagasamtökum SumOfUs, sem ekki eru rekin í hagnaðarskyni, var kona sem rannsakaði fyrir hönd samtakanna sögð hafa verið ráðist á Metaverse vettvang Horizon Worlds. Konan greindi frá því að annar notandi hafi beitt avatar hennar kynferðislegu ofbeldi á meðan aðrir horfðu á. Þegar fórnarlambið vakti athygli Meta á atvikinu sagði talsmaður Meta að rannsakandinn hefði slökkt á valkostinum Personal Boundary. Eiginleikinn var kynntur í febrúar 2022 sem öryggisráðstöfun sjálfkrafa virkjuð og kom í veg fyrir að ókunnugir gætu nálgast avatar innan fjögurra feta.

Afleiðingar djúpfalsa og áreitni

Víðtækari afleiðingar djúpfalsa og áreitni geta verið: 

• Aukinn þrýstingur á stjórnvöld að innleiða alþjóðlega reglugerðarstefnu gegn djúpfalsunum sem notaðir eru við stafræna áreitni og árásir.
• Fleiri konur verða fórnarlömb djúpfalsa tækni, sérstaklega frægt fólk, blaðamenn og aðgerðarsinnar.
• Fjölgun málaferla frá fórnarlömbum áreitni og meiðyrða. 
• Aukin tilvik um óviðeigandi hegðun gagnvart avatarum og öðrum framsetningum á netinu í metaverse samfélögum.
• Ný og sífellt auðveldari djúpfölsuð öpp og síur eru gefin út sem geta búið til raunhæft efni, sem leiðir til þess að djúpfölsuð efni án samþykkis verði breytt, sérstaklega klámi.
• Samfélagsmiðlar og vefhýsingarpallar fjárfesta meira til að fylgjast vel með efni sem dreift er á kerfum þeirra, þar á meðal að banna einstaklinga eða taka niður hópsíður.

Spurningar sem þarf að íhuga

• Hvernig er ríkisstjórn þín að taka á djúpfalinni áreitni?
• Hverjar eru aðrar leiðir sem netnotendur geta varið sig frá því að verða fórnarlömb djúpfalsa höfunda?