Taktik nyebarake disinformasi: Kepiye otak manungsa diserang

• Babagan Author:
• Jeneng panganggit

  Quantumrun Foresight
• Oktober 4, 2023

Ringkesan wawasan

Informasi sing salah nyebar liwat taktik kaya Model Contagion lan aplikasi sing dienkripsi. Klompok kaya Ghostwriter target pasukan NATO lan AS, dene AI ngapusi pendapat umum. Wong asring dipercaya sumber sing wis dikenal, saengga gampang kena informasi palsu. Iki bisa nyebabake luwih akeh kampanye disinformasi berbasis AI, peraturan pemerintah sing luwih kuat, panggunaan aplikasi sing dienkripsi dening ekstremis, keamanan siber sing luwih dhuwur ing media, lan kursus pendhidhikan babagan nglawan disinformasi.

Taktik nyebar konteks disinformasi

Taktik misinformasi minangka alat lan strategi sing asring ditrapake ing situs jejaring sosial, nggawe pandemik kapercayan palsu. Manipulasi informasi iki nyebabake salah pangerten sing nyebar babagan topik wiwit saka penipuan pemilih nganti serangan kekerasan nyata (contone, penembakan SD Sandy Hook) utawa manawa vaksin aman. Amarga warta palsu terus disebarake ing macem-macem platform, mula nggawe rasa ora percaya banget marang institusi sosial kaya media. Salah sawijining teori babagan nyebarake informasi sing mbingungake diarani Contagion Model, sing adhedhasar cara kerja virus komputer. Jaringan digawe dening kelenjar, sing makili wong, lan pinggiran, sing nglambangake pranala sosial. A konsep wis winih ing siji "pikiran" lan nyebar ing macem-macem kahanan lan gumantung ing sesambetan sosial.

Ora mbantu manawa teknologi lan digitalisasi masyarakat sing saya tambah mbantu nggawe taktik misinformasi luwih efektif tinimbang sadurunge. Conto yaiku aplikasi olahpesen sing dienkripsi (EMA), sing ora mung nggampangake nuduhake informasi palsu menyang kontak pribadhi, nanging uga nggawe perusahaan app ora bisa nglacak pesen sing dituduhake. Contone, klompok sisih tengen pindhah menyang EMA sawise serangan Capitol AS Januari 2021 amarga platform media sosial utama kaya Twitter nglarang. Taktik disinformasi duweni akibat langsung lan jangka panjang. Kajaba saka pemilihan ing ngendi kapribaden sing bisa dipertanyakan kanthi cathetan kejahatan menang liwat peternakan troll, dheweke bisa ngilangake minoritas lan nggampangake propaganda perang (contone, invasi Ukraina Rusia). 

Dampak gangguan

Ing taun 2020, perusahaan keamanan FireEye ngrilis laporan sing nyoroti upaya disinformasi saka klompok peretas sing diarani Ghostwriter. Wiwit Maret 2017, propagandis nyebar goroh, utamane nglawan aliansi militer North Atlantic Treaty Organization (NATO) lan pasukan AS ing Polandia lan Baltik. Dheweke wis nerbitake materi palsu ing media sosial lan situs web berita pro-Rusia. Ghostwriter kadhangkala nggunakake pendekatan sing luwih agresif: hacking sistem manajemen konten (CMS) situs web warta kanggo ngirim crita dhewe. Klompok kasebut banjur nyebarake warta palsu nggunakake email palsu, kiriman media sosial, lan uga op-ed sing ditulis ing situs liya sing nampa konten saka pembaca.

Taktik disinformasi liyane nggunakake algoritma lan kecerdasan buatan (AI) kanggo ngapusi pendapat umum ing media sosial, kayata "ngunggahake" pengikut media sosial liwat bot utawa nggawe akun troll otomatis kanggo ngirim komentar sing sengit. Para ahli nyebutake propaganda komputasi iki. Kangge, riset dening The New York Times nemokake manawa politisi nggunakake email kanggo nyebarake disinformasi luwih asring tinimbang sing dingerteni wong. Ing AS, loro-lorone pihak sing salah nggunakake hiperbola ing email menyang konstituen, sing asring bisa nyengkuyung nuduhake informasi palsu. 

Ana sawetara alasan utama kenapa wong tiba kanggo kampanye informasi sing salah. 

• Kaping pisanan, wong sinau sosial lan cenderung dipercaya sumber informasi kaya kanca utawa anggota kulawarga. Wong-wong iki, banjur, njaluk kabar saka kanca-kanca sing dipercaya, dadi angel kanggo ngilangi siklus iki. 
• Kapindho, wong asring gagal mriksa informasi kanthi proaktif babagan informasi sing dikonsumsi, utamane yen wis biasa njupuk kabar saka siji sumber (asring media tradisional utawa media sosial favorit. platform kaya Facebook utawa Twitter). Nalika ndeleng judhul utawa gambar (malah mung branding) sing ndhukung kapercayan, dheweke kerep ora takon keaslian klaim kasebut (ora ketompo carane konyol). 
• Kamar gema minangka alat disinformasi sing kuat, kanthi otomatis nggawe wong sing kapercayan dadi mungsuh. Otak manungsa dikepengini kanggo nggoleki informasi sing ndhukung gagasan sing ana lan informasi diskon sing nglawan.

Implikasi sing luwih akeh saka taktik nyebarake disinformasi

Kemungkinan implikasi saka taktik nyebarake disinformasi bisa uga kalebu: 

• Perusahaan liyane sing duwe spesialisasi ing AI lan bot kanggo mbantu politisi lan propagandis entuk pengikut lan "kredibilitas" liwat kampanye disinformasi sing cerdas.
• Pamrentah dipeksa nggawe undang-undang lan lembaga anti-disinformasi kanggo nglawan peternakan troll lan ahli strategi sing salah.
• Nambah download EMA kanggo kelompok ekstremis sing pengin nyebar propaganda lan ngrusak reputasi.
• Situs media nandur modal ing solusi cybersecurity sing larang kanggo nyegah peretas disinformasi supaya ora nandur berita palsu ing sisteme. Solusi AI generatif anyar bisa digunakake ing proses moderat iki.
• Bot bertenaga AI generatif bisa digunakake dening aktor ala kanggo ngasilake gelombang propaganda lan konten media disinformasi kanthi skala.
• Nambah tekanan kanggo universitas lan sekolah komunitas kanggo nyakup kursus anti-disinformasi. 

Pitakon sing kudu dipikirake

• Kepiye cara nglindhungi dhewe saka taktik disinformasi?
• Kepiye carane pamrentah lan lembaga bisa nyegah panyebaran taktik kasebut?