Propaganda pengiraan: Era penipuan automatik

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• November 21, 2022

Ringkasan cerapan

Pada zaman media sosial, semakin sukar bagi sesetengah orang untuk mempercayai apa yang mereka lihat dan dengar disebabkan penyebaran propaganda pengiraan—algoritma yang direka untuk memanipulasi pendapat umum. Teknologi ini digunakan terutamanya untuk mempengaruhi persepsi rakyat terhadap isu politik. Dan apabila sistem kecerdasan buatan (AI) terus berkembang, propaganda pengiraan mungkin digunakan untuk tujuan yang lebih mematikan.

Konteks propaganda pengiraan

Propaganda pengiraan menggunakan sistem AI untuk mencipta dan menyebarkan maklumat yang mengelirukan atau palsu dalam talian. Khususnya, firma Big Tech seperti Facebook, Google dan Twitter telah dikritik kerana menggunakan algoritma mereka untuk memanipulasi pendapat umum. Sebagai contoh, Facebook dituduh pada 2016 menggunakan algoritmanya untuk menyekat berita konservatif daripada bahagian topik trendnya. Sementara itu, pilihan raya presiden AS 2016 adalah kes berprofil tinggi di mana propaganda pengiraan dikatakan mempengaruhi pengundi. Sebagai contoh, Google dituduh memesongkan hasil cariannya untuk memihak kepada Hillary Clinton dan Twitter telah dikritik kerana membenarkan bot menyebarkan maklumat palsu semasa pilihan raya. 

Kesan propaganda pengiraan dirasai secara global, terutamanya semasa pilihan raya kebangsaan dan selalunya terhadap kumpulan minoriti. Di Myanmar, dari 2017 hingga 2022, terdapat peningkatan dalam ucapan kebencian dan keganasan terhadap kumpulan minoriti Muslim Rohingya. Kebanyakan kebencian ini adalah disebabkan oleh propaganda dalam talian yang direka bentuk oleh kumpulan nasionalis di Myanmar yang menyebarkan berita palsu dan video menghasut yang memburukkan Rohingya. 

Satu lagi akibat propaganda pengiraan ialah ia boleh menghakis kepercayaan terhadap demokrasi dan institusi. Hakisan ini boleh membawa akibat yang serius, yang membawa kepada peningkatan polarisasi dan pergolakan politik dalam kalangan penduduk domestik sesebuah negara. Disebabkan keberkesanannya yang terbukti, banyak kerajaan dan parti politik di seluruh dunia menggunakan propaganda AI untuk mempersenjatai platform media sosial terhadap penentang dan pengkritik mereka.

Kesan yang mengganggu

Propaganda pengiraan menjadi semakin canggih kerana penyepaduan pelbagai inovasi AI yang muncul. Satu contoh termasuk pemprosesan bahasa semula jadi (NLP) yang membolehkan AI menulis kandungan asli yang terdengar seperti manusia. Selain itu, teknologi deepfake dan pengklonan suara boleh dimuat turun oleh sesiapa sahaja. Teknologi ini membolehkan orang ramai mencipta persona palsu, menyamar sebagai tokoh awam dan mengadakan kempen disinformasi yang terperinci dari bilik tidur mereka. 

Pakar percaya bahawa bahaya propaganda automatik diperbesarkan dengan:

• orang awam yang tidak berpengetahuan,
• sistem undang-undang yang tidak lengkap untuk merawat maklumat yang salah secara besar-besaran, dan
• syarikat media sosial dengan sedikit perlindungan terhadap eksploitasi.

Penyelesaian yang berpotensi untuk propaganda pengiraan adalah untuk Kongres AS menekan syarikat media sosial untuk mengesahkan identiti pengguna mereka. Penyelesaian lain adalah untuk platform media sosial menggunakan sistem yang diubah suai di mana pihak ketiga mengesahkan identiti individu secara kriptografi sebelum membenarkan mereka membuat akaun.

Walau bagaimanapun, langkah-langkah ini mencabar untuk dilaksanakan kerana platform media sosial sentiasa berubah dan berkembang. Adalah sukar bagi syarikat ini untuk mengesahkan pengguna dengan landskap penggunaan dalam talian yang sentiasa berubah. Di samping itu, ramai orang berhati-hati terhadap kerajaan yang mengawal selia platform komunikasi kerana ia boleh menjadi satu bentuk penapisan.

Implikasi propaganda pengiraan

Implikasi yang lebih luas daripada propaganda pengiraan mungkin termasuk: 

• Kerajaan semakin menggunakan media sosial dan laman web berita palsu untuk propaganda pengiraan tajaan kerajaan untuk mempengaruhi pilihan raya, dasar dan hal ehwal luar negara.
• Peningkatan penggunaan bot media sosial, akaun palsu dan profil yang dijana AI direka untuk menyebarkan maklumat yang salah tentang berita dan video rekaan.
• Lebih banyak insiden ganas (cth, rusuhan awam, percubaan pembunuhan, dsb.) yang disebabkan oleh kempen propaganda disinformasi dalam talian, yang boleh membahayakan rakyat, memusnahkan harta benda awam dan mengganggu perkhidmatan penting.
• Peningkatan pelaburan dalam program yang dibiayai oleh orang ramai yang direka untuk melatih orang ramai mengenal pasti maklumat salah dan berita palsu.
• Penguatkuasaan semula diskriminasi terhadap kumpulan etnik dan minoriti, mengakibatkan lebih banyak pembunuhan beramai-ramai dan kualiti hidup yang lebih rendah.
• Syarikat teknologi menggunakan algoritma pengesanan lanjutan untuk mengenal pasti dan menentang propaganda pengiraan, yang membawa kepada peningkatan integriti media digital dan kepercayaan pengguna.
• Institusi pendidikan menyepadukan literasi media ke dalam kurikulum, memupuk pemikiran kritis dalam kalangan pelajar untuk membezakan maklumat fakta daripada propaganda pengiraan.
• Kerjasama antarabangsa antara negara untuk mewujudkan piawaian dan protokol global untuk memerangi penyelewengan maklumat pengiraan, meningkatkan keselamatan dan kerjasama digital global.

Soalan yang perlu dipertimbangkan

• Bagaimanakah propaganda pengiraan mempengaruhi negara anda?
• Dalam cara apakah anda melindungi diri anda daripada propaganda pengiraan apabila menggunakan kandungan dalam talian?