Bot Propaganda: Sekumpulan pengacau digital

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• Oktober 26, 2022

Ringkasan cerapan

Dalam era media sosial, bot dalam talian telah menjadi alat yang semakin biasa untuk menyebarkan propaganda. Bot ini ialah akaun automatik yang direka bentuk untuk meniru orang sebenar dan boleh digunakan untuk mempengaruhi politik dan peristiwa semasa dengan menyebarkan maklumat yang salah. Implikasi jangka panjang daripada peningkatan penggunaan bot ini mungkin termasuk syarikat dan parti politik yang menggunakannya untuk memanipulasi pendapat umum dan lebih banyak akaun media sosial sintetik yang menyemarakkan perdebatan dan dasar kontroversi.

Konteks bot propaganda

Bot menggunakan perisian kecerdasan buatan (AI) dan boleh melakukan tindakan secara autonomi seperti berkongsi mesej, berkongsi semula, menyukai, mengikuti, menyahikut atau menghantar mesej terus ke pelbagai akaun pada platform media. Disebabkan kepelbagaian aplikasi perisian AI, media dan pergerakan sosial telah menyesuaikan teknologi ini untuk meningkatkan interaksi dan jangkauan dengan pangkalan keahlian. Bot propaganda semakin popular di kalangan kerajaan, organisasi dan kumpulan aktivis penyangak kerana platform perisian yang mencipta dan mengurusnya semakin mudah diakses dan mudah digunakan.

Bot ini sangat serba boleh dan boleh diprogramkan, menjadikannya sangat berkesan untuk mempengaruhi pendapat umum dengan menyasarkan komuniti tertentu. Bot boleh menyebarkan maklumat palsu tentang calon dan isu atau mengganggu orang dengan pandangan yang bertentangan. Selanjutnya, mereka boleh mencipta profil media sosial palsu untuk menghasilkan sokongan untuk calon atau tujuan tertentu. Khususnya, platform media sosial Twitter telah menjadi syurga bagi bot-bot ini kerana laman web ini meminjamkan dengan baik kepada mesej bertulis yang pendek. 

Bot propaganda telah digunakan dalam beberapa kempen politik berprofil tinggi, termasuk pilihan raya presiden AS dan referendum Brexit UK pada 2016. Dalam kedua-dua kes, bot menyebarkan maklumat salah dan menimbulkan perbalahan dalam kalangan pengundi. Walaupun bot propaganda tidak terhad kepada negara autoritarian, ia tersebar luas di tempat yang kebebasan bersuara terhad. Di negara sedemikian, kerajaan sering menggunakan bot untuk mengawal populasi dan menyekat protes dan perbezaan pendapat. Contohnya ialah China dan Rusia, yang sering membanjiri rangkaian Internet mereka yang sangat terhad dengan kandungan bersandarkan kerajaan menggunakan algoritma kecerdasan buatan (AI) dan pembelajaran mesin (ML).

Kesan yang mengganggu

Beberapa perkembangan penting yang telah membolehkan kebangkitan bot propaganda adalah peningkatan kecekapan AI untuk menjana teks dan peningkatan populariti chatbot media sosial. Perisian penjanaan teks cukup canggih untuk menipu ramai orang pada kebanyakan masa. Perisian penjanaan teks boleh menulis op-ed yang berpengaruh mengenai isu negara yang sangat kompleks atau bercakap dengan pengguna di tapak web pedagang. Bot ini malah digunakan oleh tapak web yang dikatakan sebagai sumber berita tempatan yang sah tetapi memberikan maklumat yang salah (juga dikenali sebagai kewartawanan pink-slime).

Pada 2017, Suruhanjaya Komunikasi Persekutuan (FCC) AS menerima lebih 22 juta ulasan dalam jemputan untuk pendapat umum mengenai neutraliti bersih. Kira-kira separuh daripada komen itu kelihatan palsu, menggunakan identiti yang dicuri. Komen ini adalah ringkas; kira-kira 1.3 juta dihasilkan daripada templat yang sama, dengan beberapa perkataan diubah untuk kelihatan berbeza. 

Manakala pada tahun 2020, penyelidik Universiti Harvard Max Weiss mencipta perisian penjanaan teks untuk menulis 1,000 komen pada panggilan kerajaan mengenai program insurans kesihatan nasional Medicaid. Weiss menjalankan kajian ini untuk membuktikan betapa mudahnya memprogramkan bot propaganda. Komen-komen itu semuanya unik dan boleh dipercayai, sehinggakan pentadbir Medicaid menganggapnya adalah benar. Weiss kemudian memaklumkan kepada Medicaid tentang penyelidikan yang sedang dilakukannya dan telah mengeluarkan komen untuk mengelakkan sebarang perbahasan dasar daripada menjadi berat sebelah. 

Implikasi bot propaganda

Implikasi yang lebih luas daripada bot propaganda mungkin termasuk: 

• Syarikat menggunakan bot propaganda untuk mencipta kandungan perhubungan awam yang berharga untuk memulihkan reputasi korporat mereka.
• Meningkatkan kes mesej teks dan e-mel yang diperibadikan yang membantu penjenayah siber dalam melaksanakan kecurian identiti, penipuan dan pancingan data.
• Individu menyewa bot propaganda untuk kegunaan peribadi; cth, menggunakan bot untuk meningkatkan pengikut media sosial dan mengganggu orang dalam talian.
• Jumlah persona yang dipacu AI yang lebih tinggi menghantar surat kepada akhbar dan pegawai yang dipilih, menyerahkan ulasan individu kepada proses membuat peraturan awam, dan membincangkan isu politik di media sosial.
• Kerajaan yang cuba melaksanakan undang-undang penyederhanaan yang lebih ketat pada firma Teknologi Besar untuk mengawal selia penggunaan dan penciptaan bot.
• Perniagaan yang menyesuaikan diri dengan keupayaan pengawasan bot propaganda, yang membawa kepada peningkatan pemantauan produktiviti pekerja dan tingkah laku pelanggan.
• Keraguan pengguna semakin meningkat apabila membezakan antara kandungan tulen dan yang dijana bot menjadi mencabar, memberi kesan kepada kepercayaan jenama dan keberkesanan pemasaran.
• Pembuat dasar menghadapi dilema untuk mengimbangi kebebasan bersuara dengan keperluan untuk mengekang maklumat salah, mempengaruhi skop perundangan pada platform komunikasi digital.

Soalan yang perlu dipertimbangkan

• Bagaimanakah orang dan organisasi boleh melindungi diri mereka daripada terlibat dalam wacana dengan bot propaganda tanpa disedari?
• Bagaimana lagi bot akan mengubah perdebatan dan perbincangan awam?
• Apakah beberapa pertemuan terbaru yang anda alami dengan bot propaganda media sosial?