Media sintetik dan hukum melawan konten yang menyesatkan

KREDIT GAMBAR:

iStock

Media sintetis dan hukum: Perang melawan konten yang menyesatkan

Pemerintah dan perusahaan bekerja sama untuk memastikan bahwa media sintetik diungkapkan dan diatur dengan tepat.

Penulis:
nama penulis
Pandangan ke Depan Quantumrun
Februari 17, 2023

Proliferasi teknologi sintetik atau deepfake yang dapat diakses telah menyebabkan konsumen menjadi lebih rentan terhadap disinformasi dan bentuk media yang dimanipulasi—dan tanpa sumber daya yang diperlukan untuk melindungi diri mereka sendiri. Untuk mengatasi efek berbahaya dari manipulasi konten, organisasi utama seperti lembaga pemerintah, outlet media, dan perusahaan teknologi bekerja sama untuk membuat media sintetis lebih transparan.

Media sintetik dan konteks hukum

Selain propaganda dan disinformasi, konten sintetik atau yang diubah secara digital telah menyebabkan munculnya dismorfia tubuh dan rendahnya harga diri di kalangan anak muda. Dismorfia tubuh adalah kondisi kesehatan mental yang membuat orang terobsesi dengan kekurangan yang mereka rasakan dalam penampilan. Remaja sangat rentan terhadap kondisi ini karena mereka terus menerus dibombardir oleh standar kecantikan dan penerimaan yang didiktekan masyarakat.

Beberapa pemerintah bermitra dengan organisasi untuk membuat entitas yang menggunakan video dan foto yang dimanipulasi secara digital untuk menyesatkan orang agar bertanggung jawab. Misalnya, Kongres AS mengesahkan Undang-Undang Satuan Tugas Deepfake pada tahun 2021. RUU ini membentuk gugus tugas Deepfake dan Digital Provenance Nasional yang terdiri dari sektor swasta, lembaga federal, dan akademisi. Undang-undang tersebut juga mengembangkan standar sumber digital yang akan mengidentifikasi dari mana asal konten online dan perubahan yang dilakukan padanya.

RUU ini melengkapi Content Authenticity Initiative (CAI) yang dipimpin oleh perusahaan teknologi Adobe. Protokol CAI memungkinkan para profesional kreatif untuk mendapatkan penghargaan atas pekerjaan mereka dengan melampirkan data atribusi yang terbukti dapat merusak, seperti nama, lokasi, dan riwayat edit ke sebuah media. Standar ini juga memberi konsumen tingkat transparansi baru tentang apa yang mereka lihat secara online.

Menurut Adobe, teknologi asalnya memberdayakan pelanggan untuk melakukan uji tuntas tanpa menunggu label perantara. Penyebaran berita palsu dan propaganda dapat diperlambat dengan mempermudah pengguna online untuk memeriksa fakta asal-usul suatu konten dan mengidentifikasi sumber yang sah.

Dampak yang mengganggu

Posting media sosial adalah salah satu area di mana peraturan media sintetis menjadi lebih penting dari sebelumnya. Pada tahun 2021, Norwegia mengesahkan undang-undang yang melarang pengiklan dan pemberi pengaruh media sosial membagikan gambar yang telah diubah tanpa mengungkapkan bahwa foto tersebut telah diedit. Undang-undang baru memengaruhi merek, perusahaan, dan pemberi pengaruh yang memposting konten bersponsor di semua situs media sosial. Posting bersponsor mengacu pada konten yang dibayar oleh pengiklan, termasuk memberikan barang dagangan.

Amandemen tersebut mewajibkan pengungkapan untuk setiap pengeditan yang dilakukan pada gambar, meskipun dilakukan sebelum foto diambil. Misalnya, filter Snapchat dan Instagram yang mengubah penampilan seseorang harus diberi label. Menurut situs media Vice, beberapa contoh dari apa yang harus diberi label termasuk "bibir membesar, pinggang menyempit, dan otot berlebihan". Dengan melarang pengiklan dan influencer memposting foto rekayasa tanpa transparansi, pemerintah berharap dapat mengurangi jumlah anak muda yang mengalah pada tekanan tubuh negatif.

Negara-negara Eropa lainnya telah mengusulkan atau mengesahkan undang-undang serupa. Misalnya, Inggris memperkenalkan RUU Gambar Tubuh yang Diubah Secara Digital pada tahun 2021, yang mengharuskan postingan media sosial yang menunjukkan filter atau perubahan apa pun untuk diungkapkan. Otoritas Standar Periklanan Inggris juga melarang influencer media sosial menggunakan filter kecantikan yang tidak realistis dalam iklan. Pada tahun 2017, Prancis mengeluarkan undang-undang yang mewajibkan semua gambar komersial yang telah diubah secara digital agar model terlihat lebih kurus untuk menyertakan label peringatan yang serupa dengan yang terdapat pada bungkus rokok.

Implikasi media sintetik dan hukum

Implikasi yang lebih luas dari media sintetik yang dimoderasi oleh undang-undang dapat mencakup:

Semakin banyak organisasi dan pemerintah yang bekerja sama untuk menciptakan standar asal guna membantu konsumen melacak pembuatan dan penyebaran informasi online.
Badan anti-disinformasi membuat program komprehensif untuk mendidik masyarakat tentang penggunaan teknologi anti-deepfake dan mendeteksi penggunaannya.
Undang-undang yang lebih ketat yang mewajibkan pengiklan dan perusahaan untuk menghindari penggunaan (atau setidaknya mengungkapkan penggunaan mereka atas) foto yang dibesar-besarkan dan dimanipulasi untuk pemasaran.
Platform media sosial ditekan untuk mengatur bagaimana influencer menggunakan filter mereka. Dalam beberapa kasus, filter aplikasi mungkin dipaksa untuk secara otomatis mencantumkan tanda air pada gambar yang diedit sebelum gambar dipublikasikan secara online.
Meningkatkan aksesibilitas teknologi deepfake, termasuk sistem kecerdasan buatan yang lebih canggih yang dapat mempersulit orang dan protokol untuk mendeteksi konten yang diubah.