Deepfakes: Apakah itu dan mengapa ia penting

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• Januari 19, 2022

Ringkasan cerapan

Deepfakes, teknologi yang membolehkan penciptaan video atau audio palsu yang hiper-realistik, muncul pada 2017 dan sejak itu mencetuskan kebimbangan dan peluang. Walaupun teknologi telah disalahgunakan untuk mencipta kandungan yang mengelirukan, ia juga menawarkan potensi manfaat seperti meningkatkan privasi dalam talian, mengubah strategi pengiklanan dan membantu dalam penguatkuasaan undang-undang. Walau bagaimanapun, implikasi jangka panjang deepfake adalah besar, mulai daripada keperluan untuk pendidikan literasi digital dan pertumbuhan industri baharu yang memfokuskan pada pengesanan deepfake, kepada pertimbangan etika dan peningkatan penggunaan tenaga.

Konteks Deepfakes

Istilah "deepfake" memasuki kesedaran awam pada 2017 apabila pengguna Reddit berkongsi klip lucah yang menggunakan teknologi pertukaran muka sumber terbuka. Dalam video ini, mereka menukar wajah selebriti seperti Scarlett Johansson, Taylor Swift, Gal Gadot dan lain-lain dengan penghibur lucah. Ini baru permulaan.

Teknologi Deepfake membolehkan orang ramai mencipta video atau audio peristiwa yang tidak pernah berlaku. Sebagai contoh, selebriti dan ahli politik telah mendapati diri mereka dalam video melakukan dan mengatakan perkara yang tidak pernah mereka lakukan atau katakan. Kebimbangan tentang visual dan audio palsu yang dicipta oleh teknologi deepfake membawa kepada percambahan langkah balas. Untuk menghapuskan kesan negatif deepfakes, adalah penting untuk memperkenalkan undang-undang baharu. Pada tahun 2020, platform media sosial termasuk Twitter dan Facebook mengharamkan deepfakes daripada rangkaian mereka. 

Ia mengambil beberapa langkah untuk mencipta klip deepfake berkualiti tinggi. Mula-mula, jalankan beribu-ribu tangkapan muka dua orang melalui pengekod. Pengekod menyerlahkan persamaan antara dua muka dan menurunkannya kepada ciri yang dikongsi dengan memampatkan imej. Kemudian, wajah dipulihkan daripada foto mampat menggunakan penyahkod. Memandangkan wajah berbeza, satu penyahkod dilatih untuk memulihkan wajah orang pertama dan satu lagi untuk memulihkan wajah orang kedua. Selepas itu, pencipta perlu memasukkan gambar yang dikodkan ke dalam penyahkod "salah" untuk menggunakan pertukaran muka. 

Kesan yang mengganggu

Deepfakes, sambil menimbulkan ancaman yang ketara, juga memberikan peluang unik. Bagi individu, keupayaan untuk mencipta persona digital yang realistik boleh mengubah interaksi dalam talian. Sebagai contoh, seseorang boleh menggunakan deepfake untuk mengekalkan privasi semasa panggilan video, mempersembahkan avatar digital dan bukannya wajah sebenar mereka. Ciri ini mungkin berguna terutamanya dalam situasi di mana keselamatan peribadi atau tidak mahu dikenali adalah yang paling penting.

Bagi syarikat, deepfakes boleh mentakrifkan semula pengiklanan dan strategi penglibatan pelanggan. Syarikat boleh mencipta jurucakap maya, disesuaikan untuk bergema dengan khalayak sasaran yang berbeza. Strategi ini boleh membawa kepada kempen pemasaran yang lebih diperibadikan dan berkesan. Walau bagaimanapun, ini juga menimbulkan pertimbangan etika, kerana pengguna mungkin tertipu dengan representasi hiper-realistik lagi tiruan.

Kerajaan boleh menggunakan teknologi deepfake untuk tujuan keselamatan dan keselamatan awam. Sebagai contoh, agensi penguatkuasaan undang-undang boleh menggunakan deepfakes dalam operasi menyengat, mewujudkan senario realistik tanpa meletakkan pegawai manusia dalam risiko. Walau bagaimanapun, potensi penyalahgunaan adalah tinggi, dan adalah penting bagi kerajaan untuk mewujudkan peraturan yang ketat untuk mencegah penyalahgunaan teknologi ini. Dalam jangka masa panjang, kesan deepfakes sebahagian besarnya bergantung pada sejauh mana bertanggungjawab kami menggunakan dan mengawal alat berkuasa ini.

Implikasi daripada deepfakes

Implikasi yang lebih luas daripada teknologi deepfake mungkin termasuk: 

• Penggunaannya dalam penguatkuasaan undang-undang untuk membina semula tempat kejadian jenayah dengan perkaitan antara artifak temporal dan spatial. 
• Penggunaannya oleh perniagaan runcit fesyen untuk mencipta bilik percubaan maya untuk pelanggan mencuba produk kegemaran tanpa benar-benar mencubanya.
• Menyediakan individu dengan alat baharu untuk penyepaduan dan ekspresi diri dalam dunia dalam talian. Sebagai contoh, individu boleh membuat avatar diri mereka sendiri untuk ekspresi diri dalam talian.
• Penggunaan deepfake yang maju dan meluas di seluruh media oleh pelbagai pelakon jahat. Dalam senario terburuk ini, deepfakes mungkin menjejaskan keupayaan masyarakat untuk mempercayai apa yang mereka lihat dan dengar, menjadikan sebahagian besar masyarakat lebih mudah terdedah kepada propaganda dan pelbagai bentuk manipulasi.
• Lonjakan dalam permintaan untuk pendidikan literasi digital, menghasilkan populasi yang lebih bermaklumat dan arif yang boleh membezakan antara kandungan sebenar dan dimanipulasi dengan lebih baik.
• Industri baharu memberi tumpuan kepada pengesanan dan pencegahan palsu, mewujudkan peluang pekerjaan dan pertumbuhan ekonomi.
• Kemajuan dalam kecerdasan buatan dan pembelajaran mesin, menolak sempadan perkara yang mungkin dari segi teknologi.
• Peningkatan dalam penggunaan tenaga, kerana penciptaan dan pengesanan deepfakes memerlukan sumber pengiraan yang ketara.

Soalan yang perlu dipertimbangkan

• Apakah kesan potensi deepfakes kepada masyarakat?
• Adakah anda fikir undang-undang yang diperkenalkan oleh kerajaan akan membantu menghapuskan aplikasi negatif deepfakes? 
• Apakah inovasi yang boleh digunakan pada teknologi deepfake pada masa hadapan?