Jaringan permusuhan generatif (GAN): Era media sintetis

• Penulis:
• nama penulis

  Pandangan ke Depan Quantumrun
• Desember 5, 2023

Ringkasan wawasan

Generative Adversarial Networks (GANs), yang dikenal karena membuat deepfake, menghasilkan data sintetis yang meniru wajah, suara, dan tingkah laku di kehidupan nyata. Penggunaannya berkisar dari menyempurnakan Adobe Photoshop hingga menghasilkan filter realistis di Snapchat. Namun, GAN menimbulkan masalah etika karena sering digunakan untuk membuat video deepfake yang menyesatkan dan menyebarkan informasi yang salah. Di bidang layanan kesehatan, ada kekhawatiran mengenai privasi data pasien dalam pelatihan GAN. Terlepas dari masalah ini, GAN memiliki kegunaan yang bermanfaat, seperti membantu investigasi kriminal. Penggunaannya yang luas di berbagai sektor, termasuk pembuatan film dan pemasaran, telah menyebabkan seruan untuk menerapkan langkah-langkah privasi data yang lebih ketat dan peraturan pemerintah mengenai teknologi GAN.

Konteks jaringan permusuhan generatif (GAN).

GAN adalah jenis jaringan saraf dalam yang dapat menghasilkan data baru yang serupa dengan data yang dilatihnya. Dua blok utama yang saling bersaing untuk menghasilkan kreasi visioner disebut generator dan diskriminator. Generator bertanggung jawab untuk membuat data baru, sedangkan diskriminator mencoba membedakan antara data yang dihasilkan dan data pelatihan. Generator terus-menerus berusaha mengelabui pelaku diskriminasi dengan menciptakan informasi yang tampak senyata mungkin. Untuk melakukan hal ini, generator perlu mempelajari distribusi data yang mendasarinya, sehingga GAN dapat membuat informasi baru tanpa benar-benar menghafalnya.

Ketika GAN pertama kali dikembangkan pada tahun 2014 oleh ilmuwan riset Google Ian Goodfellow dan rekan satu timnya, algoritme tersebut menunjukkan harapan besar untuk pembelajaran mesin. Sejak itu, GAN telah melihat banyak penerapan di dunia nyata di berbagai industri. Misalnya, Adobe memanfaatkan GAN untuk Photoshop generasi berikutnya. Google memanfaatkan kekuatan GAN untuk menghasilkan teks dan gambar. IBM secara efektif menggunakan GAN untuk augmentasi data. Snapchat menggunakannya untuk filter gambar yang efisien dan Disney untuk resolusi super. 

Dampak yang mengganggu

Meskipun GAN pada awalnya diciptakan untuk meningkatkan pembelajaran mesin, penerapannya telah melampaui batas yang dipertanyakan. Misalnya, video deepfake terus-menerus dibuat untuk meniru orang sungguhan dan membuatnya tampak seperti mereka melakukan atau mengatakan sesuatu yang tidak mereka lakukan. Misalnya, ada video mantan Presiden AS Barack Obama yang menyebut mantan Presiden AS Donald Trump dengan istilah yang menghina dan CEO Facebook Mark Zuckerburg yang membual tentang kemampuannya mengendalikan miliaran data yang dicuri. Semua ini tidak terjadi dalam kehidupan nyata. Selain itu, sebagian besar video deepfake menyasar selebriti wanita dan menempatkannya dalam konten pornografi. GAN juga mampu membuat foto fiksi dari awal. Misalnya, beberapa akun jurnalis deepfake di LinkedIn dan Twitter ternyata dibuat oleh AI. Profil sintetik ini dapat digunakan untuk membuat artikel dan pemikiran kepemimpinan yang terdengar realistis dan dapat digunakan oleh para propagandis. 

Sementara itu, di sektor layanan kesehatan, terdapat kekhawatiran yang semakin besar mengenai data yang dapat bocor jika menggunakan database pasien yang sebenarnya sebagai data pelatihan untuk algoritme. Beberapa peneliti berpendapat bahwa harus ada lapisan keamanan atau masking tambahan untuk melindungi informasi pribadi. Namun, meski GAN terkenal karena kemampuannya menipu orang, GAN memiliki manfaat positif. Misalnya, pada bulan Mei 2022, polisi dari Belanda membuat ulang video seorang anak laki-laki berusia 13 tahun yang dibunuh pada tahun 2003. Dengan menggunakan rekaman korban yang realistis, polisi berharap dapat mendorong masyarakat untuk mengingat korban dan melapor. informasi baru mengenai kasus dingin. Polisi mengklaim bahwa mereka telah menerima beberapa tip tetapi harus melakukan pemeriksaan latar belakang untuk memverifikasinya.

Penerapan jaringan permusuhan generatif (GAN)

Beberapa penerapan jaringan permusuhan generatif (GAN) mungkin mencakup: 

• Industri pembuatan film membuat konten deepfake untuk menempatkan aktor sintetis dan merekam ulang adegan dalam film pascaproduksi. Strategi ini dapat menghasilkan penghematan biaya jangka panjang karena mereka tidak perlu membayar kompensasi tambahan kepada aktor dan kru.
• Meningkatnya penggunaan teks dan video palsu untuk mempromosikan ideologi dan propaganda di berbagai spektrum politik.
• Perusahaan menggunakan video sintetis untuk membuat kampanye branding dan pemasaran yang rumit tanpa mempekerjakan orang selain programmer.
• Kelompok yang melobi untuk meningkatkan perlindungan privasi data untuk layanan kesehatan dan informasi pribadi lainnya. Penolakan ini mungkin menekan perusahaan untuk mengembangkan data pelatihan yang tidak didasarkan pada database sebenarnya. Namun, hasilnya mungkin tidak seakurat itu.
• Pemerintah mengatur dan memantau perusahaan yang memproduksi teknologi GAN untuk memastikan teknologi tersebut tidak digunakan untuk misinformasi dan penipuan.

Pertanyaan untuk dikomentari

• Pernahkah Anda berpengalaman menggunakan teknologi GAN? Seperti apa pengalaman tersebut?
• Bagaimana perusahaan dan pemerintah dapat memastikan bahwa GAN digunakan secara etis?