Deepfakes ak arasman: Ki jan kontni sentetik yo itilize pou anmède fanm yo

• otè:
• non otè

  Pwovizyon Quantumrun
• 14 Desanm 2022

Rezime Insight

Devlopman nan teknoloji deepfake te lakòz ogmante ensidan asèlman seksyèl, patikilyèman kont fanm. Ekspè yo kwè ke abi a ap vin pi mal amwenske lwa ki pi sevè sou fason yo kreye, itilize ak distribye medya sentetik yo aplike. Enplikasyon alontèm lè w sèvi ak deepfake pou asèlman ta ka gen ladan ogmante pwosè ak teknoloji ak filtè deepfake ki pi avanse.

Deepfakes ak kontèks arasman

Nan 2017, yo te itilize yon tablo diskisyon sou sit entènèt Reddit pou òganize pònografi entèlijans atifisyèl (AI) manipile pou premye fwa. Nan yon mwa, fil Reddit la te tounen viral, ak dè milye de moun te afiche pònografi deepfake yo sou sit la. Kontni sentetik yo itilize pou kreye fo pònografi oswa asèlman se de pli zan pli komen, men enterè piblik yo souvan konsantre sou pwopagann deepfakes ki ankouraje dezenfòmasyon ak enstabilite politik. 

Tèm "deepfake" se yon konbinezon "deep learning" ak "fake", yon metòd pou rkree foto ak videyo avèk èd AI. Eleman esansyèl nan pwodiksyon kontni sa a se aprantisaj machin (ML), ki pèmèt pou kreyasyon an rapid ak bon mache nan fo materyèl ki de pli zan pli difisil pou telespektatè imen yo detekte.

 Yon rezo neral resevwa fòmasyon ak pye sou moun ki vize a pou kreye yon videyo deepfake. Plis pye yo itilize nan done fòmasyon an, rezilta yo pral reyalis; rezo a pral aprann fason moun sa a ak lòt karakteristik pèsonalite. Yon fwa yo fòme rezo neral la, nenpòt moun ka itilize teknik grafik òdinatè pou sipèpoze yon kopi resanblans yon moun sou yon lòt aktè oswa kò. Kopi sa a te lakòz yon kantite materyèl pònografik selebrite fi ak sivil ki pa konnen yo te itilize imaj yo nan fason sa a. Dapre konpayi rechèch Sensity AI, apeprè 90 a 95 pousan nan tout videyo deepfake yo tonbe nan kategori pònografi ki pa dakò.

Enpak deranje

Deepfakes te vin pi mal pratik pònografi revanj, sitou vize fanm pou ekspoze yo nan imilyasyon piblik ak chòk. Konfidansyalite ak sekirite fanm yo mete an danje paske teknoloji videyo fo bout-a-fen de pli zan pli pran zam, pa egzanp, anmède, entimidasyon, avili, ak degradasyon fanm pèsonèlman ak pwofesyonèl. Pi mal, pa gen ase règleman kont sa a kalite kontni.

Pou egzanp, apati 2022, kontni pònografi pou tire revanj entèdi nan 46 eta ameriken, epi sèlman de eta yo kouvri medya sentetik klèman nan entèdiksyon yo. Deepfakes yo pa ilegal pou kont yo, sèlman lè yo vyole copyright oswa vin difamatè. Limit sa yo fè li difisil pou viktim yo pouswiv aksyon legal, sitou paske pa gen okenn fason yo efase kontni sa a sou entènèt pou tout tan.

Pandan se tan, yon lòt fòm kontni sentetik, avatar (reprezantasyon sou entènèt itilizatè yo), tou ap sibi atak. Dapre yon rapò 2022 pa òganizasyon defans san bi likratif SumOfUs, yon fanm ki t ap fè rechèch sou non òganizasyon an te swadizan atake nan platfòm Metaverse Horizon Worlds. Fanm lan rapòte ke yon lòt itilizatè te agresyon seksyèlman avatar li pandan lòt moun t ap gade. Lè viktim nan te pote ensidan an nan atansyon Meta a, yon pòtpawòl Meta te di ke chèchè a te dezaktive opsyon Limit Pèsonèl la. Karakteristik la te prezante nan mwa fevriye 2022 kòm yon prekosyon sekirite pèmèt pa default e li te anpeche etranje apwoche yon avatar nan kat pye.

Enplikasyon deepfakes ak arasman

Pi laj enplikasyon deepfakes ak arasman ka gen ladan: 

• Ogmantasyon presyon pou gouvènman yo aplike yon politik regilasyon mondyal kont deepfakes yo itilize pou asèlman ak atak dijital.
• Plis fanm viktim teknoloji deepfake, patikilyèman selebrite, jounalis, ak aktivis.
• Yon ogmantasyon nan pwosè nan men moun ki viktim fo arasman ak difamasyon. 
• Ogmantasyon ensidan konpòtman ki pa apwopriye anvè avatar ak lòt reprezantasyon sou entènèt nan kominote metavès.
• Nouvo ak de pli zan pli fasil pou itilize aplikasyon deepfake ak filtè ke yo te lage ki ka kreye kontni reyalis, ki mennen nan kommodifikasyon nan kontni deepfake ki pa dakò, espesyalman pònografi.
• Medya sosyal ak sit entènèt hosting platfòm envesti plis pou kontwole anpil kontni sikile sou tribin yo, tankou entèdi moun oswa retire paj gwoup yo.

Kesyon yo konsidere

• Ki jan gouvènman ou an ap adrese deepfake arasman?
• Ki lòt fason itilizatè sou entènèt yo ka pwoteje tèt yo pou yo pa viktim anba kreyatè deepfake?