Kuantumrun

KREDIT GAMBAR:

iStock

Deepfakes sareng pelecehan: Kumaha eusi sintétik dianggo pikeun ngaganggu awéwé

Gambar sareng video anu dimanipulasi nyumbang kana lingkungan digital anu nargétkeun awéwé.

Author:
Ngaran pangarang
Quantumrun tetempoan
Désémber 14, 2022

Ringkesan wawasan

Pamekaran dina téknologi deepfake parantos nyababkeun paningkatan insiden pelecehan seksual, khususna ngalawan awéwé. Para ahli yakin yén panyalahgunaan bakal langkung parah kecuali undang-undang anu langkung ketat ngeunaan kumaha média sintétis didamel, dianggo sareng disebarkeun dikuatkeun. Implikasi jangka panjang tina ngagunakeun deepfakes pikeun harrassment tiasa kalebet kanaékan gugatan sareng téknologi sareng saringan deepfake anu langkung maju.

Deepfakes sareng kontéks pelecehan

Dina 2017, papan diskusi dina situs wéb Reddit dianggo pikeun ngadamel pornografi anu dimanipulasi kecerdasan jieunan (AI) pikeun kahiji kalina. Dina sabulan, benang Reddit janten viral, sareng rébuan jalma parantos masangkeun pornografi palsu dina situs éta. Eusi sintétik anu dipaké pikeun nyieun pornografi palsu atawa pelecehan beuki umum, tapi kapentingan umum sering difokuskeun kana propaganda deepfakes anu ngamajukeun disinformasi jeung instability pulitik.

Istilah "deepfake" mangrupikeun kombinasi "learning jero" sareng "palsu," metode pikeun nyiptakeun deui poto sareng pidéo kalayan bantosan AI. Komponén penting dina produksi eusi ieu nyaéta pembelajaran mesin (ML), anu ngamungkinkeun pikeun nyiptakeun bahan palsu anu gancang sareng murah anu beuki hese pikeun dideteksi ku pemirsa manusa.

Jaringan saraf dilatih sareng footage jalma anu ditargetkeun pikeun nyiptakeun pidéo palsu. Beuki footage dipaké dina data latihan, hasilna bakal leuwih realistis; jaringan bakal diajar mannerisms jalma sarta Tret kapribadian lianna. Sakali jaringan neural dilatih, saha waé tiasa nganggo téknik komputer-grafik pikeun nempatkeun salinan sasaruaan jalma kana aktor atanapi awak sanés. Nyalin ieu nyababkeun sajumlah ageung bahan porno selebriti awéwé sareng sipil anu teu sadar yén gambarna parantos dianggo ku cara ieu. Numutkeun firma panaliti Sensity AI, sakitar 90 dugi ka 95 persén sadaya pidéo palsu digolongkeun kana kategori pornografi nonconsensual.

Dampak ngaganggu

Deepfakes parantos parah ngalaksanakeun porno dendam, utamina nargétkeun awéwé pikeun ngalaan aranjeunna ka hinaan sareng trauma umum. Privasi sareng kasalametan awéwé dibahayakeun kusabab téknologi vidéo palsu tungtung-ka-tungtung beuki diperkuat, contona, ngaganggu, nyingsieunan, ngahinakeun, sareng ngahinakeun awéwé sacara pribadi sareng profésional. Parah, teu aya cukup régulasi ngalawan jinis eusi ieu.

Salaku conto, dina taun 2022, eusi porno dendam dilarang di 46 nagara bagian AS, sareng ngan ukur dua nagara bagian anu sacara eksplisit nutupan média sintétik dina laranganana. Deepfakes henteu haram ku nyalira, ngan nalika aranjeunna ngalanggar hak cipta atanapi janten fitnah. Watesan ieu ngajantenkeun korban hésé pikeun ngalaksanakeun tindakan hukum, khususna kumargi teu aya jalan pikeun mupus eusi ieu sacara online sacara permanén.

Samentara éta, bentuk séjén tina eusi sintétik, avatars (representasi online pamaké), ogé keur subjected ka assaults. Numutkeun laporan 2022 ku organisasi advokasi nonprofit SumOfUs, awéwé anu nalungtik atas nama organisasi éta disangka diserang dina platform Metaverse Horizon Worlds. Awéwé éta ngalaporkeun yén pangguna sanés nyerang séksual avatarna bari anu sanés ningali. Nalika korban nyangking kajadian éta ka perhatian Meta, juru carios Meta nyarios yén panalungtik parantos nganonaktipkeun pilihan Wates Pribadi. Fitur ieu diwanohkeun dina bulan Pebruari 2022 salaku pancegahan kaamanan anu diaktipkeun sacara standar sareng nyegah urang asing ngadeukeutan avatar dina jarak opat suku.

Implikasi tina deepfakes sareng pelecehan

Implikasi anu langkung ageung tina deepfakes sareng pelecehan tiasa kalebet:

Ngaronjat tekanan pikeun pamaréntah pikeun nerapkeun kawijakan pangaturan global ngalawan deepfakes dipaké pikeun pelecehan digital sarta narajang.
Langkung seueur awéwé anu dikorbankeun ku téknologi palsu, khususna selebriti, wartawan, sareng aktivis.
Paningkatan gugatan ti korban pelecehan palsu sareng fitnah.
Ngaronjat insiden paripolah anu teu pantes pikeun avatar sareng perwakilan online anu sanés dina komunitas metaverse.
Aplikasi sareng saringan deepfake anyar sareng beuki gampang dianggo anu dileupaskeun anu tiasa nyiptakeun kontén anu réalistis, ngarah kana komodifikasi kontén deepfake nonconsensual, khususna pornografi.
Media sosial sareng platform hosting situs wéb langkung seueur investasi pikeun ngawaskeun eusi anu disebarkeun dina platformna, kalebet ngalarang individu atanapi nyandak halaman grup.