Kuantumrun

KREDIT GAMBAR:

iStock

Deepfakes lan pelecehan: Kepiye konten sintetis digunakake kanggo ngganggu wanita

Gambar lan video sing dimanipulasi nyumbang kanggo lingkungan digital sing ngarahake wanita.

Babagan Author:
Jeneng panganggit
Quantumrun Foresight
Desember 14, 2022

Ringkesan wawasan

Pangembangan teknologi deepfake nyebabake kedadeyan pelecehan seksual, utamane marang wanita. Para ahli percaya yen penyalahgunaan bakal saya elek kajaba hukum sing luwih ketat babagan carane media sintetik digawe, digunakake lan disebarake dileksanakake. Implikasi jangka panjang nggunakake deepfakes kanggo harrassment bisa uga kalebu tuntutan hukum sing tambah lan teknologi lan saringan deepfake sing luwih maju.

Konteks Deepfakes lan pelecehan

Ing 2017, papan diskusi ing situs web Reddit digunakake kanggo dadi tuan rumah pornografi sing dimanipulasi kecerdasan buatan (AI) kanggo pisanan. Ing sewulan, Utas Reddit dadi virus, lan ewonan wong wis ngirim pornografi palsu ing situs kasebut. Konten sintetis sing digunakake kanggo nggawe pornografi palsu utawa pelecehan saya tambah umum, nanging kapentingan umum asring fokus ing propaganda palsu sing ningkatake disinformasi lan ketidakstabilan politik.

Istilah "deepfake" minangka gabungan saka "pembelajaran jero" lan "palsu," cara kanggo nggawe ulang foto lan video kanthi bantuan AI. Komponen penting ing produksi konten iki yaiku sinau mesin (ML), sing ngidini nggawe materi palsu kanthi cepet lan murah sing saya angel dideteksi dening pamirsa manungsa.

Jaringan saraf dilatih kanthi cuplikan saka wong sing ditargetake kanggo nggawe video palsu sing jero. Dawane luwih akeh digunakake ing data latihan, luwih nyata asil bakal; jaringan bakal sinau mannerisms wong lan sipat pribadine liyane. Sawise jaringan saraf dilatih, sapa wae bisa nggunakake teknik komputer-grafis kanggo nggawe salinan mirip wong menyang aktor utawa awak liyane. Penyalinan iki nyebabake akeh bahan porno selebriti lan warga sipil sing ora ngerti yen gambar-gambar kasebut digunakake kanthi cara iki. Miturut firma riset Sensity AI, kira-kira 90 nganti 95 persen kabeh video palsu kalebu ing kategori pornografi nonconsensual.

Dampak gangguan

Deepfakes nambahake praktik porno dendam, utamane nargetake wanita supaya bisa ngremehake lan trauma umum. Privasi lan kaslametane wanita dirusak amarga teknologi video palsu pungkasane tambah akeh gegaman, contone, ngganggu, medeni, ngremehake, lan ngremehake wanita kanthi pribadi lan profesional. Luwih elek, ora ana regulasi sing cukup kanggo jinis konten iki.

Contone, ing taun 2022, konten porno dendam dilarang ing 46 negara bagian AS, lan mung rong negara sing nutupi media sintetik kanthi jelas ing larangan kasebut. Deepfakes ora ilegal dhewe, mung nalika nglanggar hak cipta utawa dadi fitnah. Watesan kasebut ndadekake korban angel ngupayakake tindakan hukum, utamane amarga ora ana cara kanggo mbusak konten iki kanthi online kanthi permanen.

Sauntara kuwi, wujud konten sintetik liyane, avatar (perwakilan online pangguna), uga kena serangan. Miturut laporan 2022 dening organisasi advokasi nirlaba SumOfUs, wanita sing riset atas jenenge organisasi kasebut diduga diserang ing platform Metaverse Horizon Worlds. Wong wadon kasebut nglaporake manawa pangguna liyane nyerang avatar dheweke nalika wong liya nonton. Nalika korban nggawa kedadeyan kasebut menyang perhatian Meta, juru bicara Meta ujar manawa peneliti wis mateni opsi Personal Boundary. Fitur kasebut dikenalake ing Februari 2022 minangka pancegahan safety sing diaktifake kanthi standar lan nyegah wong asing nyedhaki avatar ing jarak patang kaki.

Implikasi saka deepfakes lan jawatan

Implikasi sing luwih akeh saka deepfakes lan pelecehan bisa uga kalebu:

Nambah tekanan kanggo pamrentah kanggo ngetrapake kabijakan peraturan global nglawan deepfakes sing digunakake kanggo pelecehan lan serangan digital.
Luwih akeh wanita sing dadi korban teknologi deepfake, utamane selebriti, wartawan, lan aktivis.
Peningkatan tuntutan hukum saka korban pelecehan lan fitnah sing jero.
Tambah kedadeyan prilaku sing ora cocog marang avatar lan perwakilan online liyane ing komunitas metaverse.
Aplikasi lan saringan deepfake sing anyar lan luwih gampang digunakake sing bisa nggawe konten sing nyata, sing ndadékaké komodifikasi konten deepfake nonconsensual, utamane pornografi.
Media sosial lan platform hosting situs web nandur modal luwih akeh kanggo ngawasi konten sing disebar ing platform kasebut, kalebu nglarang individu utawa ngilangi kaca grup.