Deepfakes dhe ngacmimet: Si përdoret përmbajtja sintetike për të ngacmuar gratë

• Author:
• Emri i autorit

  Parashikimi Kuantumrun
• Dhjetor 14, 2022

Përmbledhje e pasqyrës

Zhvillimet në teknologjinë deepfake kanë rezultuar në rritje të incidenteve të ngacmimeve seksuale, veçanërisht ndaj grave. Ekspertët besojnë se abuzimi do të përkeqësohet nëse nuk zbatohen ligje më të rrepta se si krijohen, përdoren dhe shpërndahen mediat sintetike. Implikimet afatgjata të përdorimit të deepfakes për ngacmim mund të përfshijnë rritjen e padive dhe teknologjitë dhe filtrat më të avancuar të deepfake.

Deepfakes dhe konteksti i ngacmimit

Në vitin 2017, një tabelë diskutimi në faqen e internetit Reddit u përdor për të pritur pornografinë e manipuluar nga inteligjenca artificiale (AI) për herë të parë. Brenda një muaji, tema e Reddit u bë virale dhe mijëra njerëz kishin postuar pornografinë e tyre të rreme në faqe. Përmbajtja sintetike e përdorur për të krijuar pornografi të rreme ose ngacmim është gjithnjë e më e zakonshme, megjithatë interesi publik përqendrohet shpesh në falsifikime të thella propagandistike që nxisin dezinformimin dhe paqëndrueshmërinë politike. 

Termi "deepfake" është një kombinim i "të mësuarit të thellë" dhe "fake", një metodë për rikrijimin e fotografive dhe videove me ndihmën e AI. Komponenti thelbësor në prodhimin e kësaj përmbajtjeje është mësimi i makinës (ML), i cili lejon krijimin e shpejtë dhe të lirë të materialit të rremë që është gjithnjë e më i vështirë për t'u zbuluar nga shikuesit njerëzorë.

 Një rrjet nervor është trajnuar me pamjet e personit të synuar për të krijuar një video të rreme. Sa më shumë filmime të përdoren në të dhënat e trajnimit, aq më reale do të jenë rezultatet; rrjeti do të mësojë sjelljet e atij personi dhe tipare të tjera të personalitetit. Pasi të trajnohet rrjeti nervor, çdokush mund të përdorë teknika grafike kompjuterike për të mbivendosur një kopje të ngjashmërisë së një personi mbi një aktor ose trup tjetër. Ky kopjim ka rezultuar në një numër të madh të materialeve pornografike të femrave të famshme dhe civilëve të pavetëdijshëm se imazhet e tyre janë përdorur në këtë mënyrë. Sipas firmës hulumtuese Sensity AI, afërsisht 90 deri në 95 për qind e të gjitha videove të rrejshme janë në kategorinë e pornografisë jokonsensuale.

Ndikim shkatërrues

Deepfakes kanë përkeqësuar praktikën e pornografisë hakmarrëse, duke synuar kryesisht gratë për t'i ekspozuar ato ndaj poshtërimit dhe traumës publike. Privatësia dhe siguria e grave rrezikohen pasi teknologjia e videove false nga fundi në fund po armatizohet gjithnjë e më shumë, p.sh., ngacmimi, frikësimi, poshtërimi dhe degradimi i grave personalisht dhe profesionalisht. Më keq, nuk ka rregullim të mjaftueshëm kundër këtij lloji të përmbajtjes.

Për shembull, që nga viti 2022, përmbajtja pornografike hakmarrëse është e ndaluar në 46 shtete të SHBA-së dhe vetëm dy shtete mbulojnë në mënyrë të qartë mediat sintetike në ndalimin e tyre. Deepfakes nuk janë të paligjshme në vetvete, vetëm kur ato shkelin të drejtat e autorit ose bëhen shpifëse. Këto kufizime e bëjnë të vështirë për viktimat ndjekjen e veprimeve ligjore, veçanërisht pasi nuk ka asnjë mënyrë për ta fshirë këtë përmbajtje në internet përgjithmonë.

Ndërkohë, një formë tjetër e përmbajtjes sintetike, avatarët (përfaqësimet online të përdoruesve), po i nënshtrohet gjithashtu sulmeve. Sipas një raporti të vitit 2022 nga organizata jofitimprurëse e avokimit SumOfUs, një grua që kërkonte në emër të organizatës dyshohet se u sulmua në platformën Metaverse Horizon Worlds. Gruaja raportoi se një përdorues tjetër sulmoi seksualisht avatarin e saj ndërsa të tjerët e shikonin. Kur viktima vuri në vëmendje incidentin e Metës, një zëdhënës i Metës tha se studiuesi kishte çaktivizuar opsionin Personal Boundary. Funksioni u prezantua në shkurt 2022 si një masë paraprake sigurie e aktivizuar si parazgjedhje dhe parandaloi të huajt që t'i afroheshin një avatari brenda katër këmbëve.

Implikimet e “deepfakes” dhe ngacmimeve

Implikimet më të gjera të falsifikimit të thellë dhe ngacmimit mund të përfshijnë: 

• Rritja e presionit për qeveritë për të zbatuar një politikë rregullatore globale kundër falsifikimeve të thella të përdorura për ngacmime dhe sulme dixhitale.
• Më shumë gra janë viktimizuar nga teknologjia e rreme, veçanërisht të famshëm, gazetarë dhe aktivistë.
• Një rritje e padive nga viktimat e ngacmimeve dhe shpifjeve të rreme. 
• Rritja e incidenteve të sjelljes së papërshtatshme ndaj avatarëve dhe paraqitjeve të tjera në internet në komunitetet metaverse.
• Janë lëshuar aplikacione dhe filtra të rinj dhe gjithnjë e më të lehtë për t'u përdorur, të cilët mund të krijojnë përmbajtje realiste, duke çuar në komodifikimin e përmbajtjeve jokonsensuale të falsifikimit të thellë, veçanërisht pornografisë.
• Mediat sociale dhe platformat e pritjes së faqeve në internet investojnë më shumë për të monitoruar shumë përmbajtjen e qarkulluar në platformat e tyre, duke përfshirë ndalimin e individëve ose heqjen e faqeve në grup.

Pyetje që duhen marrë parasysh

• Si po e trajton qeveria juaj ngacmimet e rrejshme?
• Cilat janë mënyrat e tjera që përdoruesit në internet mund të mbrohen nga viktimizimi nga krijuesit e “deepfake”?