Taktike širenja dezinformacija: Kako je napadnut ljudski mozak

• Autor:
• Ime autora

  Quantumrun Foresight
• Oktobar 4, 2023

Sažetak uvida

Dezinformacije se šire kroz taktike poput modela zaraze i šifriranih aplikacija. Grupe poput Ghostwritera ciljaju na NATO i američke trupe, dok AI manipuliše javnim mnijenjem. Ljudi često vjeruju poznatim izvorima, što ih čini podložnim lažnim informacijama. To bi moglo dovesti do više kampanja dezinformacije zasnovanih na umjetnoj inteligenciji, jačih državnih propisa, povećane upotrebe šifriranih aplikacija od strane ekstremista, povećane sajber sigurnosti u medijima i edukativnih kurseva o borbi protiv dezinformacija.

Taktike širenja konteksta dezinformacija

Taktike dezinformacija su alati i strategije koje se često primjenjuju na stranicama društvenih mreža, stvarajući pandemiju lažnih uvjerenja. Ova manipulacija informacijama dovela je do široko rasprostranjenog nesporazuma o temama koje se kreću od prevara birača do toga da li su nasilni napadi stvarni (npr. pucnjava u osnovnoj školi Sandy Hook) ili jesu li vakcine bezbedne. Kako se lažne vijesti i dalje dijele na različitim platformama, to je stvorilo duboko nepovjerenje prema društvenim institucijama poput medija. Jedna teorija o tome kako se obmanjujuće informacije šire zove se model zaraze, koji se zasniva na tome kako kompjuterski virusi rade. Mrežu kreiraju čvorovi, koji predstavljaju ljude, i rubovi, koji simboliziraju društvene veze. Koncept je usađen u jedan „um“ i širi se pod različitim uslovima i zavisno od društvenih odnosa.

Ne pomaže to što tehnologija i sve veća digitalizacija društva pomažu da taktike dezinformacija budu efikasnije nego ikad. Primjer su šifrirane aplikacije za razmjenu poruka (EMA), koje ne samo da olakšavaju dijeljenje lažnih informacija ličnim kontaktima, već i onemogućavaju kompanijama za aplikacije da prate poruke koje se dijele. Na primjer, grupe krajnje desnice prešle su u EMA nakon napada na Kapitol SAD u januaru 2021. jer su ih glavne platforme društvenih medija poput Twittera zabranile. Taktike dezinformiranja imaju trenutne i dugoročne posljedice. Osim izbora na kojima sumnjive ličnosti sa kriminalnim dosijeima pobjeđuju kroz farme trolova, oni mogu marginalizirati manjine i olakšati ratnu propagandu (npr. ruska invazija Ukrajine). 

Ometajući uticaj

2020. godine, sigurnosna kompanija FireEye objavila je izvještaj koji naglašava napore dezinformacije grupe hakera pod nazivom Ghostwriter. Od marta 2017. propagandisti šire laži, posebno protiv vojnog saveza Sjevernoatlantskog saveza (NATO) i američkih trupa u Poljskoj i Baltiku. Objavili su falsifikovani materijal na društvenim mrežama i proruskim novinskim web stranicama. Ghostwriter je ponekad koristio agresivniji pristup: hakiranje sistema za upravljanje sadržajem (CMS) web stranica s vijestima kako bi objavili vlastite priče. Grupa zatim distribuira svoje lažne vijesti koristeći lažne e-poruke, objave na društvenim mrežama, pa čak i radove koje su napisali na drugim stranicama koje prihvaćaju sadržaj od čitatelja.

Druga taktika dezinformacija koristi algoritme i umjetnu inteligenciju (AI) za manipuliranje javnim mnijenjem na društvenim mrežama, kao što je "pojačavanje" sljedbenika na društvenim mrežama putem botova ili kreiranje automatiziranih trol naloga za objavljivanje komentara mržnje. Stručnjaci to nazivaju kompjuterskom propagandom. U međuvremenu, istraživanje The New York Timesa otkrilo je da političari koriste e-poštu za širenje dezinformacija češće nego što ljudi shvaćaju. U SAD-u su obje strane krive za korištenje hiperbole u svojim e-mailovima biračima, što često može potaknuti dijeljenje lažnih informacija. 

Postoji nekoliko ključnih razloga zašto ljudi padaju na kampanje dezinformacija. 

• Prvo, ljudi su društveni učenici i skloni su vjerovanju svojim izvorima informacija poput prijatelja ili članova porodice. Ovi ljudi, zauzvrat, dobijaju vijesti od pouzdanih prijatelja, što otežava prekid ovog kruga. 
• Drugo, ljudi često ne uspijevaju proaktivno provjeriti činjenice koje konzumiraju, posebno ako su navikli da svoje vijesti dobijaju iz jednog izvora (često tradicionalni mediji ili njihovi omiljeni društveni mediji platforme poput Facebooka ili Twittera). Kada vide naslov ili sliku (pa čak i samo brendiranje) koji podržava njihova uvjerenja, često ne dovode u pitanje autentičnost ovih tvrdnji (ma koliko smiješne). 
• Eho komore su moćni alati za dezinformaciju, koji od ljudi sa suprotnim uvjerenjima automatski postaju neprijatelji. Ljudski mozak je ožičen da traži informacije koje podržavaju postojeće ideje i odbija informacije koje su im protivne.

Šire implikacije taktike širenja dezinformacija

Moguće implikacije taktike širenja dezinformacija mogu uključivati: 

• Više kompanija specijalizovanih za veštačku inteligenciju i botove da pomognu političarima i propagandistima da steknu sledbenike i „kredibilitet“ kroz pametne kampanje dezinformacija.
• Na vlade se vrši pritisak da kreiraju zakone protiv dezinformacija i agencije za borbu protiv farmi trolova i stratega dezinformacija.
• Sve veći broj preuzimanja EMA-a za ekstremističke grupe koje žele širiti propagandu i uništiti reputaciju.
• Medijski sajtovi ulažu u skupa rešenja za sajber bezbednost kako bi sprečili hakere koji dezinformišu da podmetnu lažne vesti u njihove sisteme. Nova generativna AI rješenja mogu se koristiti u ovom procesu moderiranja.
• Loši akteri mogu koristiti generativne botove koji pokreću umjetnu inteligenciju kako bi proizveli val medijskog sadržaja propagande i dezinformacija u velikim razmjerima.
• Povećan pritisak na univerzitete i škole u zajednici da uključe kurseve protiv dezinformacija. 

Pitanja koja treba razmotriti

• Kako se zaštititi od taktika dezinformacija?
• Kako drugačije vlade i agencije mogu spriječiti širenje ovih taktika?