Quantumrun

KREDIT OBRAZU:

iStock

Deepfakes a obtěžování: Jak se syntetický obsah používá k obtěžování žen

Zmanipulované obrázky a videa přispívají k digitálnímu prostředí, které se zaměřuje na ženy.

Autor:
jméno autora
Quantumrun Foresight
14. prosince 2022

Shrnutí statistik

Vývoj technologie deepfake má za následek rostoucí počet případů sexuálního obtěžování, zejména vůči ženám. Odborníci se domnívají, že zneužívání se zhorší, pokud nebudou prosazeny přísnější zákony o tom, jak jsou syntetická média vytvářena, používána a distribuována. Dlouhodobé důsledky používání deepfake k obtěžování by mohly zahrnovat zvýšený počet soudních sporů a pokročilejší deepfake technologie a filtry.

Deepfakes a kontext obtěžování

V roce 2017 byl diskusní panel na webu Reddit poprvé použit k hostování pornografie manipulované umělou inteligencí (AI). Během měsíce se vlákno na Redditu stalo virálním a tisíce lidí na web zveřejnily svou hluboce falešnou pornografii. Syntetický obsah používaný k vytváření falešné pornografie nebo obtěžování je stále častější, přesto se veřejný zájem často soustřeďuje na falešné propagandy, které podporují dezinformace a politickou nestabilitu.

Termín „deepfake“ je kombinací „deep learning“ a „fake“, což je metoda pro znovuvytváření fotografií a videí pomocí AI. Základní složkou při výrobě tohoto obsahu je strojové učení (ML), které umožňuje rychlé a levné vytváření falešného materiálu, který je pro lidské diváky stále obtížnější odhalit.

Neuronová síť je trénována se záběry cílové osoby, aby vytvořila hluboce falešné video. Čím více záběrů se použije v tréninkových datech, tím realističtější budou výsledky; síť se naučí manýry této osoby a další osobnostní rysy. Jakmile je neuronová síť natrénována, může kdokoli použít techniky počítačové grafiky k superponování kopie lidské podoby na jiného herce nebo tělo. Toto kopírování vedlo k nárůstu počtu pornografických materiálů ženských celebrit a civilistů, kteří nevěděli, že jejich obrázky byly použity tímto způsobem. Podle výzkumné společnosti Sensity AI spadá zhruba 90 až 95 procent všech deepfake videí do kategorie nekonsensuální pornografie.

Rušivý dopad

Deepfakes zhoršili praxi pomsty porna, primárně se zaměřují na ženy, aby je vystavili veřejnému ponížení a traumatu. Soukromí a bezpečnost žen jsou ohroženy, protože falešná video technologie je stále více využívána jako zbraň, např. obtěžováním, zastrašováním, ponižováním a ponižováním žen osobně i profesionálně. Horší je, že proti tomuto typu obsahu neexistuje dostatečná regulace.

Například od roku 2022 je pornografický obsah z pomsty zakázán ve 46 státech USA a pouze dva státy ve svém zákazu výslovně pokrývají syntetická média. Deepfakes nejsou samy o sobě nezákonné, pouze pokud porušují autorská práva nebo se stávají hanlivými. Tato omezení znesnadňují obětem právní kroky, zejména proto, že neexistuje způsob, jak tento obsah trvale smazat online.

Mezitím je útokům vystavena i další forma syntetického obsahu, avataři (online reprezentace uživatelů). Podle zprávy neziskové organizace SumOfUs z roku 2022 byla na platformě Metaverse Horizon Worlds údajně napadena žena zkoumající jménem organizace. Žena uvedla, že jiný uživatel sexuálně napadl jejího avatara, zatímco ostatní sledovali. Když oběť na incident upozornila Meta, mluvčí Meta řekl, že výzkumník deaktivoval možnost Osobní hranice. Tato funkce byla představena v únoru 2022 jako bezpečnostní opatření, které je ve výchozím nastavení povoleno a zabraňovalo cizím lidem přiblížit se k avatarovi na vzdálenost čtyř stop.

Důsledky deepfakes a obtěžování

Širší důsledky deepfakes a obtěžování mohou zahrnovat:

Zvýšený tlak na vlády, aby zavedly globální regulační politiku proti deepfake používaným k digitálnímu obtěžování a útokům.
Více žen se stává obětí deepfake technologií, zejména celebrity, novináři a aktivisté.
Nárůst žalob od obětí falešného obtěžování a pomluvy.
Zvýšený počet případů nevhodného chování vůči avatarům a dalším online reprezentacím v komunitách metaverse.
Uvolňují se nové a stále snadněji použitelné deepfake aplikace a filtry, které mohou vytvářet realistický obsah, což vede ke komodifikaci nekonsensuálního deepfake obsahu, zejména pornografie.
Sociální média a webhostingové platformy investují více do intenzivního sledování obsahu šířeného na jejich platformách, včetně zákazu jednotlivců nebo odstranění skupinových stránek.