Deepfakes dan gangguan: Cara kandungan sintetik digunakan untuk mengganggu wanita

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• Disember 14, 2022

Ringkasan cerapan

Perkembangan dalam teknologi deepfake telah mengakibatkan peningkatan insiden gangguan seksual, khususnya terhadap wanita. Pakar percaya penderaan akan bertambah buruk melainkan undang-undang yang lebih ketat tentang cara media sintetik dicipta, digunakan dan diedarkan dikuatkuasakan. Implikasi jangka panjang menggunakan deepfakes untuk gangguan boleh termasuk peningkatan tindakan undang-undang dan teknologi deepfake yang lebih maju dan penapis.

Konteks palsu dan gangguan

Pada 2017, papan perbincangan di laman web Reddit telah digunakan untuk mengehoskan pornografi yang dimanipulasi kecerdasan buatan (AI) buat kali pertama. Dalam masa sebulan, benang Reddit menjadi tular, dan beribu-ribu orang telah menyiarkan pornografi palsu mereka di laman web tersebut. Kandungan sintetik yang digunakan untuk mencipta pornografi palsu atau gangguan semakin menjadi perkara biasa, namun kepentingan awam sering tertumpu pada propaganda palsu yang menggalakkan maklumat salah dan ketidakstabilan politik. 

Istilah "deepfake" ialah gabungan "pembelajaran mendalam" dan "palsu," kaedah untuk mencipta semula gambar dan video dengan bantuan AI. Komponen penting dalam pengeluaran kandungan ini ialah pembelajaran mesin (ML), yang membolehkan penciptaan bahan palsu yang pantas dan murah yang semakin sukar untuk dikesan oleh penonton manusia.

 Rangkaian saraf dilatih dengan rakaman orang yang disasarkan untuk mencipta video palsu yang mendalam. Lebih banyak rakaman digunakan dalam data latihan, lebih realistik hasilnya; rangkaian akan mempelajari perangai orang itu dan ciri-ciri personaliti yang lain. Setelah rangkaian saraf dilatih, sesiapa sahaja boleh menggunakan teknik grafik komputer untuk menindih salinan rupa seseorang pada pelakon atau badan lain. Penyalinan ini telah menyebabkan semakin banyak bahan lucah selebriti wanita dan orang awam tidak menyedari bahawa imej mereka telah digunakan dengan cara ini. Menurut firma penyelidikan Sensity AI, kira-kira 90 hingga 95 peratus daripada semua video palsu termasuk dalam kategori pornografi tanpa persetujuan.

Kesan yang mengganggu

Deepfakes telah memburukkan lagi amalan lucah balas dendam, terutamanya menyasarkan wanita untuk mendedahkan mereka kepada penghinaan dan trauma awam. Privasi dan keselamatan wanita terancam kerana teknologi video palsu hujung ke hujung semakin dipersenjatai, contohnya, mengganggu, menakut-nakutkan, merendahkan dan merendahkan martabat wanita secara peribadi dan profesional. Lebih teruk, tiada peraturan yang mencukupi terhadap jenis kandungan ini.

Contohnya, pada 2022, kandungan lucah balas dendam diharamkan di 46 negeri AS dan hanya dua negeri secara eksplisit membuat liputan media sintetik dalam larangan mereka. Deepfakes tidak menyalahi undang-undang dengan sendirinya, hanya apabila ia melanggar hak cipta atau menjadi fitnah. Pengehadan ini menyukarkan mangsa untuk meneruskan tindakan undang-undang, terutamanya kerana tiada cara untuk memadamkan kandungan ini dalam talian secara kekal.

Sementara itu, satu lagi bentuk kandungan sintetik, avatar (perwakilan dalam talian pengguna), turut dikenakan serangan. Menurut laporan 2022 oleh organisasi advokasi bukan untung SumOfUs, seorang wanita yang menyelidik bagi pihak organisasi itu didakwa diserang dalam platform Metaverse Horizon Worlds. Wanita itu melaporkan bahawa pengguna lain melakukan serangan seksual terhadap avatarnya sementara yang lain menonton. Apabila mangsa membawa kejadian itu ke perhatian Meta, seorang jurucakap Meta berkata bahawa penyelidik telah menyahaktifkan pilihan Sempadan Peribadi. Ciri ini diperkenalkan pada Februari 2022 sebagai langkah berjaga-jaga keselamatan yang didayakan secara lalai dan menghalang orang yang tidak dikenali daripada mendekati avatar dalam jarak empat kaki.

Implikasi daripada deepfakes dan gangguan

Implikasi yang lebih luas daripada deepfakes dan gangguan mungkin termasuk: 

• Tekanan yang meningkat untuk kerajaan melaksanakan dasar kawal selia global terhadap pemalsuan dalam yang digunakan untuk gangguan dan serangan digital.
• Lebih ramai wanita menjadi mangsa teknologi palsu, terutamanya selebriti, wartawan dan aktivis.
• Peningkatan saman daripada mangsa gangguan dan fitnah palsu. 
• Peningkatan insiden tingkah laku yang tidak sesuai terhadap avatar dan perwakilan dalam talian lain dalam komuniti metaverse.
• Apl dan penapis deepfake yang baharu dan semakin mudah digunakan telah dikeluarkan yang boleh mencipta kandungan realistik, yang membawa kepada pengubahsuaian kandungan deepfake tanpa persetujuan, terutamanya pornografi.
• Platform pengehosan media sosial dan tapak web melabur lebih banyak untuk memantau kandungan yang diedarkan di platform mereka, termasuk melarang individu atau menurunkan halaman kumpulan.

Soalan yang perlu dipertimbangkan

• Bagaimanakah kerajaan anda menangani gangguan palsu?
• Apakah cara lain yang pengguna dalam talian boleh melindungi diri mereka daripada menjadi mangsa oleh pencipta deepfake?