Deepfakes a obťažovanie: Ako sa syntetický obsah používa na obťažovanie žien

• Autor:
• meno autora

  Predvídavosť Quantumrun
• Decembra 14, 2022

Súhrn prehľadu

Vývoj technológie deepfake viedol k nárastu počtu prípadov sexuálneho obťažovania, najmä voči ženám. Odborníci sa domnievajú, že zneužívanie sa zhorší, ak sa nebudú uplatňovať prísnejšie zákony o tom, ako sa syntetické médiá vytvárajú, používajú a distribuujú. Dlhodobé dôsledky používania deepfake na obťažovanie by mohli zahŕňať zvýšený počet súdnych sporov a pokročilejšie technológie a filtre deepfake.

Hlboké falšovanie a kontext obťažovania

V roku 2017 bola diskusná tabuľa na webovej stránke Reddit po prvýkrát použitá na hosťovanie pornografie manipulovanej umelou inteligenciou (AI). V priebehu mesiaca sa vlákno Reddit stalo virálnym a tisíce ľudí zverejnili svoju hlboko falošnú pornografiu na stránku. Syntetický obsah používaný na vytváranie falošnej pornografie alebo obťažovania je čoraz bežnejší, no verejný záujem sa často zameriava na hlboké falošné propagandy, ktoré podporujú dezinformácie a politickú nestabilitu. 

Pojem „deepfake“ je kombináciou „deep learning“ a „fake“, čo je metóda na opätovné vytváranie fotografií a videí pomocou AI. Základnou súčasťou produkcie tohto obsahu je strojové učenie (ML), ktoré umožňuje rýchlu a nenákladnú tvorbu falošného materiálu, ktorý je pre ľudského diváka čoraz ťažšie odhaliť.

 Neurónová sieť je trénovaná pomocou záberov cieľovej osoby na vytvorenie hlboko falošného videa. Čím viac záberov sa použije v tréningových údajoch, tým realistickejšie budú výsledky; sieť sa naučí spôsoby a iné osobnostné črty tejto osoby. Po natrénovaní neurónovej siete môže ktokoľvek použiť techniky počítačovej grafiky na prekrytie kópie podobizne osoby na iného herca alebo tela. Toto kopírovanie viedlo k nárastu počtu pornografických materiálov ženských celebrít a civilistov, ktorí nevedeli, že ich obrázky boli použité týmto spôsobom. Podľa výskumnej spoločnosti Sensity AI zhruba 90 až 95 percent všetkých hlboko falošných videí spadá do kategórie nekonsenzuálnej pornografie.

Rušivý vplyv

Deepfakes zhoršili prax pomsty pornografie, ktorá sa zameriava predovšetkým na ženy, aby ich vystavili verejnému ponižovaniu a traume. Súkromie a bezpečnosť žien sú ohrozené, pretože komplexná falošná video technológia je čoraz viac využívaná ako zbraň, napríklad obťažovaním, zastrašovaním, ponižovaním a ponižovaním žien osobne a profesionálne. Horšie je, že proti tomuto typu obsahu neexistuje dostatočná regulácia.

Napríklad od roku 2022 je pornografický obsah z pomsty zakázaný v 46 štátoch USA a iba dva štáty vo svojom zákaze výslovne pokrývajú syntetické médiá. Deepfakes nie sú samy osebe nezákonné, iba ak porušujú autorské práva alebo sa stanú hanlivými. Tieto obmedzenia sťažujú obetiam súdne konanie, najmä preto, že neexistuje spôsob, ako tento obsah natrvalo odstrániť online.

Medzitým je útokom vystavená aj iná forma syntetického obsahu, avatary (online reprezentácie používateľov). Podľa správy neziskovej advokačnej organizácie SumOfUs z roku 2022 bola žena, ktorá skúmala v mene organizácie, údajne napadnutá na platforme Metaverse Horizon Worlds. Žena uviedla, že iný používateľ sexuálne napadol jej avatara, zatiaľ čo ostatní ho sledovali. Keď obeť upozornila na incident Meta, hovorca Meta povedal, že výskumník deaktivoval možnosť Osobná hranica. Táto funkcia bola predstavená vo februári 2022 ako bezpečnostné opatrenie, ktoré je predvolene povolené a zabraňuje cudzím ľuďom priblížiť sa k avatarovi na vzdialenosť štyroch stôp.

Dôsledky deepfakes a obťažovania

Širšie dôsledky deepfakes a obťažovania môžu zahŕňať: 

• Zvýšený tlak na vlády, aby implementovali globálnu regulačnú politiku proti deepfake používaným na digitálne obťažovanie a útoky.
• Viac žien, najmä celebrít, novinárov a aktivistov, sa stáva obeťou technológie deepfake.
• Zvýšený počet žalôb od obetí hlbokého falošného obťažovania a ohovárania. 
• Zvýšený počet prípadov nevhodného správania voči avatarom a iným online reprezentáciám v komunitách metaverse.
• Uvoľňujú sa nové a čoraz jednoduchšie použiteľné deepfake aplikácie a filtre, ktoré dokážu vytvárať realistický obsah, čo vedie ku komodifikácii nekonsenzuálneho deepfake obsahu, najmä pornografie.
• Platformy na hosťovanie sociálnych médií a webových stránok investujú viac do intenzívneho monitorovania obsahu, ktorý koluje na ich platformách, vrátane zákazu jednotlivcov alebo zrušenia skupinových stránok.

Otázky na zváženie

• Ako vaša vláda rieši deepfake obťažovanie?
• Aké sú ďalšie spôsoby, ako sa môžu online používatelia chrániť pred obeťou zo strany hlboko falošných tvorcov?