Rangkaian musuh generatif (GAN): Zaman media sintetik

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• Disember 5, 2023

Ringkasan cerapan

Generative Adversarial Networks (GAN), yang terkenal kerana mencipta deepfakes, menjana data sintetik yang meniru wajah, suara dan ragam kehidupan sebenar. Penggunaannya terdiri daripada mempertingkatkan Adobe Photoshop kepada menjana penapis realistik pada Snapchat. Walau bagaimanapun, GAN menimbulkan kebimbangan etika, kerana ia sering digunakan untuk mencipta video palsu mendalam yang mengelirukan dan menyebarkan maklumat salah. Dalam penjagaan kesihatan, terdapat kebimbangan terhadap privasi data pesakit dalam latihan GAN. Walaupun isu ini, GAN mempunyai aplikasi yang bermanfaat, seperti membantu penyiasatan jenayah. Penggunaan meluas mereka merentas pelbagai sektor, termasuk pembikinan filem dan pemasaran, telah membawa kepada seruan untuk langkah privasi data yang lebih ketat dan peraturan kerajaan bagi teknologi GAN.

Konteks rangkaian musuh generatif (GAN).

GAN ialah sejenis rangkaian neural dalam yang boleh menjana data baharu yang serupa dengan data yang dilatihnya. Dua blok utama yang bersaing antara satu sama lain untuk menghasilkan ciptaan berwawasan dipanggil penjana dan diskriminasi. Penjana bertanggungjawab untuk mencipta data baharu, manakala pendiskriminasi cuba membezakan antara data yang dijana dan data latihan. Penjana sentiasa cuba untuk memperdayakan diskriminasi dengan mencipta maklumat yang kelihatan sebenar mungkin. Untuk melakukan ini, penjana perlu mempelajari pengedaran asas data, membolehkan GAN mencipta maklumat baharu tanpa benar-benar menghafalnya.

Apabila GAN pertama kali dibangunkan pada tahun 2014 oleh saintis penyelidikan Google, Ian Goodfellow dan rakan sepasukannya, algoritma itu menunjukkan janji yang hebat untuk pembelajaran mesin. Sejak itu, GAN telah melihat banyak aplikasi dunia nyata merentas industri yang berbeza. Sebagai contoh, Adobe menggunakan GAN untuk Photoshop generasi akan datang. Google menggunakan kuasa GAN untuk penjanaan teks dan imej. IBM berkesan menggunakan GAN untuk penambahan data. Snapchat menggunakannya untuk penapis imej yang cekap dan Disney untuk resolusi super. 

Kesan yang mengganggu

Walaupun GAN pada mulanya dicipta untuk meningkatkan pembelajaran mesin, aplikasinya telah merentasi wilayah yang boleh dipersoalkan. Sebagai contoh, video deepfake sentiasa dibuat untuk meniru orang sebenar dan menjadikannya kelihatan seperti mereka melakukan atau mengatakan sesuatu yang tidak mereka lakukan. Sebagai contoh, terdapat video bekas Presiden AS Barack Obama menggelar rakan-rakan bekas Presiden AS Donald Trump sebagai istilah menghina dan Ketua Pegawai Eksekutif Facebook Mark Zuckerburg bercakap besar tentang dapat mengawal berbilion-bilion data yang dicuri. Tiada satu pun daripada ini berlaku dalam kehidupan sebenar. Selain itu, kebanyakan video deepfake menyasarkan selebriti wanita dan meletakkannya dalam kandungan lucah. GAN juga boleh mencipta foto fiksyen dari awal. Sebagai contoh, beberapa akaun wartawan deepfake di LinkedIn dan Twitter ternyata dijana AI. Profil sintetik ini boleh digunakan untuk mencipta artikel yang berbunyi realistik dan kepingan kepimpinan pemikiran yang boleh digunakan oleh propagandis. 

Sementara itu, dalam sektor penjagaan kesihatan, terdapat kebimbangan yang semakin meningkat mengenai data yang boleh dibocorkan dengan menggunakan pangkalan data pesakit sebenar sebagai data latihan untuk algoritma. Sesetengah penyelidik berpendapat bahawa mesti ada lapisan keselamatan tambahan atau penutup untuk melindungi maklumat peribadi. Walau bagaimanapun, walaupun GAN kebanyakannya terkenal dengan keupayaannya untuk menipu orang, ia mempunyai faedah positif. Sebagai contoh, pada Mei 2022, polis dari Belanda mencipta semula video seorang budak lelaki berusia 13 tahun yang dibunuh pada 2003. Dengan menggunakan rakaman realistik mangsa, polis berharap dapat menggalakkan orang ramai mengingati mangsa dan tampil ke hadapan maklumat baru mengenai kes selsema. Polis mendakwa bahawa mereka telah menerima beberapa petua tetapi perlu melakukan pemeriksaan latar belakang untuk mengesahkannya.

Aplikasi rangkaian permusuhan generatif (GAN)

Beberapa aplikasi rangkaian permusuhan generatif (GAN) mungkin termasuk: 

• Industri pembikinan filem mencipta kandungan palsu untuk meletakkan pelakon sintetik dan merakam semula adegan dalam filem pasca penerbitan. Strategi ini boleh diterjemahkan kepada penjimatan kos jangka panjang kerana mereka tidak perlu membayar pampasan tambahan kepada pelakon dan kru.
• Peningkatan penggunaan teks dan video palsu untuk mempromosikan ideologi dan propaganda merentasi spektrum politik yang berbeza.
• Syarikat menggunakan video sintetik untuk mencipta kempen penjenamaan dan pemasaran yang terperinci tanpa mengupah orang sebenar selain daripada pengaturcara.
• Kumpulan melobi untuk meningkatkan perlindungan privasi data untuk penjagaan kesihatan dan maklumat peribadi lain. Penolakan ini mungkin memberi tekanan kepada syarikat untuk membangunkan data latihan yang tidak berdasarkan pangkalan data sebenar. Walau bagaimanapun, hasilnya mungkin tidak tepat.
• Kerajaan mengawal selia dan memantau firma yang menghasilkan teknologi GAN untuk memastikan teknologi itu tidak digunakan untuk maklumat salah dan penipuan.

Soalan untuk diulas

• Adakah anda berpengalaman menggunakan teknologi GAN? Apakah pengalaman itu?
• Bagaimanakah syarikat dan kerajaan boleh memastikan GAN digunakan secara beretika?