Taktik menyebarkan disinformasi: Bagaimana otak manusia diserang

• Penulis:
• nama penulis

  Pandangan ke Depan Quantumrun
• Oktober 4, 2023

Ringkasan wawasan

Misinformasi menyebar melalui taktik seperti Model Penularan dan aplikasi terenkripsi. Kelompok seperti Ghostwriter menargetkan NATO dan pasukan AS, sementara AI memanipulasi opini publik. Orang sering kali memercayai sumber yang sudah dikenal, sehingga membuat mereka rentan terhadap informasi palsu. Hal ini dapat menyebabkan lebih banyak kampanye disinformasi berbasis AI, peraturan pemerintah yang lebih kuat, peningkatan penggunaan aplikasi terenkripsi oleh ekstremis, peningkatan keamanan siber di media, dan kursus pendidikan untuk memerangi disinformasi.

Taktik menyebarkan konteks disinformasi

Taktik misinformasi adalah alat dan strategi yang sering diterapkan di situs jejaring sosial, sehingga menciptakan pandemi keyakinan salah. Manipulasi informasi ini telah mengakibatkan kesalahpahaman yang meluas mengenai topik-topik mulai dari penipuan pemilih hingga apakah serangan kekerasan itu nyata (misalnya, penembakan di sekolah dasar Sandy Hook) atau apakah vaksin itu aman. Ketika berita palsu terus tersebar di berbagai platform, hal ini telah menciptakan ketidakpercayaan yang mendalam terhadap institusi sosial seperti media. Salah satu teori tentang bagaimana informasi menyesatkan menyebar disebut Contagion Model (Model Penularan), yang didasarkan pada cara kerja virus komputer. Sebuah jaringan dibuat oleh node, yang mewakili orang-orang, dan edge, yang melambangkan hubungan sosial. Sebuah konsep ditanamkan dalam satu “pikiran” dan menyebar dalam berbagai kondisi dan bergantung pada hubungan sosial.

Teknologi dan meningkatnya digitalisasi masyarakat turut membuat taktik misinformasi menjadi lebih efektif dari sebelumnya. Contohnya adalah aplikasi perpesanan terenkripsi (EMA), yang tidak hanya memfasilitasi pembagian informasi palsu ke kontak pribadi tetapi juga membuat perusahaan aplikasi tidak mungkin melacak pesan yang dibagikan. Misalnya, kelompok sayap kanan berpindah ke EMA setelah serangan Capitol AS pada Januari 2021 karena platform media sosial arus utama seperti Twitter melarang mereka. Taktik disinformasi mempunyai konsekuensi langsung dan jangka panjang. Selain pemilu yang dimenangkan oleh orang-orang yang memiliki catatan kriminalitas yang meragukan, pemilu juga dapat meminggirkan kelompok minoritas dan memfasilitasi propaganda perang (misalnya, invasi Rusia ke Ukraina). 

Dampak yang mengganggu

Pada tahun 2020, perusahaan keamanan FireEye merilis laporan yang menyoroti upaya disinformasi yang dilakukan sekelompok peretas bernama Ghostwriter. Sejak Maret 2017, para propagandis telah menyebarkan kebohongan, khususnya terhadap aliansi militer Organisasi Perjanjian Atlantik Utara (NATO) dan pasukan AS di Polandia dan negara-negara Baltik. Mereka telah menerbitkan materi palsu di media sosial dan situs berita pro-Rusia. Ghostwriter terkadang menggunakan pendekatan yang lebih agresif: meretas sistem manajemen konten (CMS) situs web berita untuk memposting cerita mereka sendiri. Kelompok tersebut kemudian menyebarkan berita palsunya menggunakan email palsu, postingan media sosial, dan bahkan opini yang mereka tulis di situs lain yang menerima konten dari pembaca.

Taktik disinformasi lainnya menggunakan algoritme dan kecerdasan buatan (AI) untuk memanipulasi opini publik di media sosial, seperti “meningkatkan” pengikut media sosial melalui bot atau membuat akun troll otomatis untuk mengirimkan komentar kebencian. Para ahli menyebutnya sebagai propaganda komputasi. Sementara itu, penelitian yang dilakukan The New York Times menemukan bahwa politisi lebih sering menggunakan email untuk menyebarkan disinformasi daripada yang disadari orang. Di AS, kedua partai bersalah karena menggunakan hiperbola dalam email mereka kepada konstituen, yang sering kali mendorong penyebaran informasi palsu. 

Ada beberapa alasan utama mengapa orang-orang terjerumus dalam kampanye misinformasi. 

• Pertama, masyarakat adalah pembelajar sosial dan cenderung mempercayai sumber informasi mereka seperti teman atau anggota keluarga. Orang-orang ini, pada gilirannya, mendapatkan berita dari teman-teman tepercaya, sehingga sulit untuk memutus siklus ini. 
• Kedua, masyarakat sering kali gagal untuk secara proaktif memeriksa fakta informasi yang mereka konsumsi, terutama jika mereka terbiasa mendapatkan berita dari satu sumber (seringkali media tradisional atau media sosial favorit mereka. platform seperti Facebook atau Twitter). Ketika mereka melihat judul atau gambar (dan bahkan sekadar branding) yang mendukung keyakinan mereka, mereka sering kali tidak mempertanyakan keaslian klaim tersebut (betapapun konyolnya). 
• Ruang gema adalah alat disinformasi yang ampuh, yang secara otomatis menjadikan orang-orang yang memiliki keyakinan berbeda sebagai musuh. Otak manusia terprogram untuk mencari informasi yang mendukung ide-ide yang ada dan mengabaikan informasi yang bertentangan dengan ide-ide tersebut.

Implikasi yang lebih luas dari taktik menyebarkan disinformasi

Kemungkinan implikasi dari taktik menyebarkan disinformasi meliputi: 

• Semakin banyak perusahaan yang berspesialisasi dalam AI dan bot untuk membantu politisi dan propagandis mendapatkan pengikut dan “kredibilitas” melalui kampanye disinformasi yang cerdas.
• Pemerintah ditekan untuk membuat undang-undang dan lembaga anti-disinformasi untuk memerangi kelompok troll dan ahli strategi misinformasi.
• Peningkatan pengunduhan EMA bagi kelompok ekstremis yang ingin menyebarkan propaganda dan merusak reputasi.
• Situs media berinvestasi pada solusi keamanan siber yang mahal untuk mencegah peretas disinformasi menanamkan berita palsu di sistem mereka. Solusi AI generatif baru dapat digunakan dalam proses moderasi ini.
• Bot generatif yang didukung AI dapat digunakan oleh pelaku kejahatan untuk menghasilkan gelombang propaganda dan konten media disinformasi dalam skala besar.
• Meningkatnya tekanan bagi universitas dan sekolah komunitas untuk memasukkan kursus anti-disinformasi. 

Pertanyaan untuk dipertimbangkan

• Bagaimana Anda melindungi diri Anda dari taktik disinformasi?
• Bagaimana lagi pemerintah dan lembaga dapat mencegah penyebaran taktik ini?