Taktik menyebarkan maklumat salah: Bagaimana otak manusia diceroboh

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• Oktober 4, 2023

Ringkasan cerapan

Maklumat salah merebak melalui taktik seperti Model Penularan dan aplikasi yang disulitkan. Kumpulan seperti Ghostwriter menyasarkan tentera NATO dan AS, manakala AI memanipulasi pendapat umum. Orang sering mempercayai sumber yang biasa, menjadikan mereka mudah terdedah kepada maklumat palsu. Ini boleh membawa kepada lebih banyak kempen disinformasi berasaskan AI, peraturan kerajaan yang lebih kukuh, peningkatan penggunaan apl yang disulitkan oleh pelampau, meningkatkan keselamatan siber dalam media dan kursus pendidikan tentang memerangi maklumat salah.

Taktik menyebarkan konteks disinformasi

Taktik maklumat salah ialah alat dan strategi yang sering digunakan pada laman rangkaian sosial, mewujudkan wabak kepercayaan palsu. Manipulasi maklumat ini telah mengakibatkan salah faham yang meluas tentang topik yang terdiri daripada penipuan pengundi kepada sama ada serangan ganas adalah benar (cth, penembakan sekolah rendah Sandy Hook) atau sama ada vaksin adalah selamat. Memandangkan berita palsu terus dikongsi merentasi platform yang berbeza, ia telah menimbulkan rasa tidak percaya yang mendalam terhadap institusi sosial seperti media. Satu teori tentang cara penyebaran maklumat yang mengelirukan dipanggil Model Penularan, yang berdasarkan cara virus komputer berfungsi. Rangkaian dicipta oleh nod, yang mewakili orang, dan tepi, yang melambangkan pautan sosial. Sesuatu konsep disemai dalam satu "minda" dan tersebar di bawah pelbagai keadaan dan bergantung pada hubungan sosial.

Ia tidak membantu bahawa teknologi dan pendigitalan masyarakat yang semakin meningkat membantu menjadikan taktik maklumat salah lebih berkesan berbanding sebelum ini. Contohnya ialah apl pemesejan yang disulitkan (EMA), yang bukan sahaja memudahkan perkongsian maklumat palsu kepada kenalan peribadi tetapi juga menyukarkan syarikat aplikasi untuk menjejaki mesej yang dikongsi. Sebagai contoh, kumpulan sayap kanan dipindahkan ke EMA selepas serangan Capitol AS Januari 2021 kerana platform media sosial arus perdana seperti Twitter melarang mereka. Taktik disinformasi mempunyai akibat serta-merta dan jangka panjang. Selain daripada pilihan raya di mana personaliti yang boleh dipersoalkan dengan rekod jenayah menang melalui ladang troll, mereka boleh meminggirkan minoriti dan memudahkan propaganda perang (cth, pencerobohan Ukraine Rusia). 

Kesan yang mengganggu

Pada tahun 2020, syarikat keselamatan FireEye mengeluarkan laporan yang menyerlahkan usaha penyelewengan sekumpulan penggodam yang dipanggil Ghostwriter. Sejak Mac 2017, propagandis telah menyebarkan pembohongan, terutamanya terhadap pakatan tentera Pertubuhan Perjanjian Atlantik Utara (NATO) dan tentera AS di Poland dan Baltik. Mereka telah menerbitkan bahan palsu di media sosial dan laman web berita pro-Rusia. Ghostwriter kadangkala menggunakan pendekatan yang lebih agresif: menggodam sistem pengurusan kandungan (CMS) laman web berita untuk menyiarkan cerita mereka sendiri. Kumpulan itu kemudian mengedarkan berita palsunya menggunakan e-mel palsu, siaran media sosial, dan juga op-ed yang ditulis oleh mereka di tapak lain yang menerima kandungan daripada pembaca.

Taktik disinformasi lain menggunakan algoritma dan kecerdasan buatan (AI) untuk memanipulasi pendapat umum di media sosial, seperti "meningkatkan" pengikut media sosial melalui bot atau mencipta akaun troll automatik untuk menyiarkan komen yang penuh kebencian. Pakar memanggil propaganda pengiraan ini. Sementara itu, penyelidikan oleh The New York Times mendapati bahawa ahli politik menggunakan e-mel untuk menyebarkan maklumat yang salah lebih kerap daripada orang ramai menyedari. Di AS, kedua-dua pihak bersalah kerana menggunakan hiperbola dalam e-mel mereka kepada konstituen, yang selalunya boleh menggalakkan perkongsian maklumat palsu. 

Terdapat beberapa sebab utama mengapa orang jatuh untuk kempen maklumat yang salah. 

• Pertama, orang ramai adalah pelajar sosial dan cenderung mempercayai sumber maklumat mereka seperti rakan atau ahli keluarga. Orang-orang ini, seterusnya, mendapat berita mereka daripada rakan yang dipercayai, menjadikannya sukar untuk memutuskan kitaran ini. 
• Kedua, orang sering gagal menyemak fakta secara proaktif terhadap maklumat yang mereka gunakan, terutamanya jika mereka sudah biasa mendapatkan berita mereka daripada satu sumber (selalunya media tradisional atau media sosial kegemaran mereka platform seperti Facebook atau Twitter). Apabila mereka melihat tajuk atau imej (dan malah hanya penjenamaan) yang menyokong kepercayaan mereka, mereka sering tidak mempersoalkan kesahihan dakwaan ini (tidak kira betapa tidak masuk akal). 
• Ruang gema ialah alat disinformasi yang berkuasa, secara automatik menjadikan orang yang mempunyai kepercayaan yang bertentangan sebagai musuh. Otak manusia diperkuatkan untuk mencari maklumat yang menyokong idea sedia ada dan maklumat diskaun yang bertentangan dengannya.

Implikasi yang lebih luas daripada taktik menyebarkan maklumat salah

Kemungkinan implikasi taktik menyebarkan maklumat salah mungkin termasuk: 

• Lebih banyak syarikat yang pakar dalam AI dan bot untuk membantu ahli politik dan propagandis memperoleh pengikut dan "kredibiliti" melalui kempen penipuan maklumat yang bijak.
• Kerajaan ditekan untuk mewujudkan undang-undang dan agensi anti-penyesalan untuk memerangi ladang troll dan ahli strategi maklumat salah.
• Meningkatkan muat turun EMA untuk kumpulan pelampau yang ingin menyebarkan propaganda dan merosakkan reputasi.
• Tapak media yang melabur dalam penyelesaian keselamatan siber yang mahal untuk menghalang penggodam maklumat palsu daripada menanam berita palsu dalam sistem mereka. Penyelesaian AI generatif baru boleh digunakan dalam proses penyederhanaan ini.
• Bot dikuasakan AI Generatif mungkin digunakan oleh pelakon jahat untuk menghasilkan gelombang kandungan media propaganda dan disinformasi secara berskala.
• Tekanan yang meningkat untuk universiti dan sekolah komuniti untuk memasukkan kursus anti-disinformasi. 

Soalan yang perlu dipertimbangkan

• Bagaimanakah anda melindungi diri anda daripada taktik disinformasi?
• Bagaimana lagi kerajaan dan agensi boleh menghalang penyebaran taktik ini?