Deepfakes i uznemiravanje: Kako se sintetički sadržaj koristi za uznemiravanje žena

• Autor:
• Ime autora

  Quantumrun Foresight
• Decembar 14, 2022

Sažetak uvida

Razvoj deepfake tehnologije rezultirao je povećanjem incidenata seksualnog uznemiravanja, posebno žena. Stručnjaci vjeruju da će se zloupotreba pogoršati ako se ne provedu stroži zakoni o tome kako se sintetički mediji stvaraju, koriste i distribuiraju. Dugoročne implikacije korištenja deepfake-a za uznemiravanje mogle bi uključiti povećane tužbe i naprednije deepfake tehnologije i filtere.

Deepfakes i kontekst uznemiravanja

Godine 2017., ploča za diskusiju na web stranici Reddit je po prvi put korištena za smještaj pornografije kojom se manipulira umjetna inteligencija (AI). U roku od mjesec dana, nit na Redditu postala je viralna, a hiljade ljudi je objavilo svoju deepfake pornografiju na stranici. Sintetički sadržaj koji se koristi za stvaranje lažne pornografije ili uznemiravanja je sve češći, ali je interes javnosti često usmjeren na propagandne deepfakes koje promoviraju dezinformacije i političku nestabilnost. 

Izraz "deepfake" kombinacija je "dubokog učenja" i "lažnog", metode za ponovno kreiranje fotografija i video zapisa uz pomoć AI. Osnovna komponenta u proizvodnji ovog sadržaja je mašinsko učenje (ML), koje omogućava brzo i jeftino kreiranje lažnog materijala koji je ljudskim gledaocima sve teže otkriti.

 Neuronska mreža se trenira sa snimkom ciljane osobe kako bi kreirala deepfake video. Što se više snimaka koristi u podacima o obuci, to će rezultati biti realističniji; mreža će naučiti manire te osobe i druge osobine ličnosti. Jednom kada je neuronska mreža obučena, svako može koristiti tehnike kompjuterske grafike kako bi nametnuo kopiju lika osobe na drugog glumca ili tijelo. Ovo kopiranje je rezultiralo porastom broja pornografskih materijala poznatih žena i civila nesvjesnih da su njihove slike korištene na ovaj način. Prema istraživačkoj firmi Sensity AI, otprilike 90 do 95 posto svih deepfake videa spada u kategoriju pornografije bez pristanka.

Ometajući uticaj

Deepfakes su pogoršali praksu osvetničke pornografije, prvenstveno ciljajući na žene kako bi ih izložili javnom poniženju i traumi. Privatnost i sigurnost žena su ugroženi jer je sveobuhvatna lažna video tehnologija sve više naoružana, npr. uznemiravanje, zastrašivanje, ponižavanje i ponižavanje žena lično i profesionalno. Što je još gore, nema dovoljno propisa protiv ove vrste sadržaja.

Na primjer, od 2022. godine, osvetnički pornografski sadržaji su zabranjeni u 46 američkih država, a samo dvije države eksplicitno pokrivaju sintetičke medije u svojoj zabrani. Deepfakes nisu nezakoniti sami po sebi, samo kada krše autorska prava ili postanu klevetnički. Ova ograničenja otežavaju žrtvama pokretanje pravnog postupka, pogotovo zato što ne postoji način da se ovaj sadržaj trajno izbriše na mreži.

U međuvremenu, napadima je izložen i drugi oblik sintetičkog sadržaja, avatari (online reprezentacije korisnika). Prema izvještaju neprofitne organizacije SumOfUs iz 2022. godine, žena koja je istraživala u ime organizacije navodno je napadnuta na Metaverse platformi Horizon Worlds. Žena je prijavila da je drugi korisnik seksualno napao njen avatar dok su drugi gledali. Kada je žrtva skrenula pažnju Meti na incident, portparol Mete je rekao da je istraživač deaktivirao opciju Personal Boundary. Ova funkcija je uvedena u februaru 2022. kao sigurnosna mjera predostrožnosti koja je standardno omogućena i spriječila je strance da priđu avataru na udaljenosti od četiri stope.

Implikacije deepfakesa i uznemiravanja

Šire implikacije deepfakesa i uznemiravanja mogu uključivati: 

• Povećan pritisak na vlade da implementiraju globalnu regulatornu politiku protiv deepfakesa koji se koriste za digitalno uznemiravanje i napad.
• Sve je više žena koje su žrtve duboke lažne tehnologije, posebno slavnih ličnosti, novinara i aktivista.
• Povećanje broja tužbi žrtava duboko lažnog uznemiravanja i klevete. 
• Povećan broj incidenata neprikladnog ponašanja prema avatarima i drugim online reprezentacijama u zajednicama metaverza.
• Objavljuju se nove i sve lakše za korištenje deepfake aplikacije i filteri koji mogu stvoriti realističan sadržaj, što dovodi do komodifikacije nesuglasnog deepfake sadržaja, posebno pornografije.
• Društveni mediji i platforme za hosting web stranica ulažu više u praćenje sadržaja koji cirkulira na njihovim platformama, uključujući zabranu pojedinaca ili uklanjanje grupnih stranica.

Pitanja koja treba razmotriti

• Kako se vaša vlada suočava sa dubokim lažnim uznemiravanjem?
• Koji su drugi načini na koje se online korisnici mogu zaštititi od žrtvovanja kreatora deepfake-a?