Računalna propaganda: Era automatizirane obmane

• Autor:
• ime autora

  Quantumrun Foresight
• Studenog 21, 2022

Sažetak uvida

U doba društvenih medija nekim je ljudima postalo sve teže vjerovati onome što vide i čuju zbog širenja računalne propagande — algoritama osmišljenih za manipuliranje javnim mnijenjem. Ova se tehnologija prvenstveno koristi kako bi se promijenila percepcija ljudi o političkim pitanjima. I kako se sustavi umjetne inteligencije (AI) nastavljaju razvijati, računalna propaganda može se primijeniti u sve smrtonosnije svrhe.

Kontekst računalne propagande

Računalna propaganda koristi AI sustave za stvaranje i širenje pogrešnih ili lažnih informacija na internetu. Konkretno, velike tehnološke tvrtke poput Facebooka, Googlea i Twittera kritizirane su zbog korištenja svojih algoritama za manipuliranje javnim mnijenjem. Na primjer, Facebook je 2016. optužen za korištenje svog algoritma za potiskivanje konzervativnih vijesti iz odjeljka s trendovskim temama. U međuvremenu, predsjednički izbori u SAD-u 2016. bili su slučaj visokog profila kada je rečeno da računalna propaganda utječe na birače. Na primjer, Google je optužen za iskrivljavanje rezultata pretraživanja u korist Hillary Clinton, a Twitter je kritiziran jer je botovima dopuštao širenje lažnih informacija tijekom izbora. 

Učinci računalne propagande osjećaju se globalno, osobito tijekom nacionalnih izbora i često protiv manjinskih skupina. U Mijanmaru je od 2017. do 2022. došlo do porasta govora mržnje i nasilja protiv muslimanske manjinske skupine Rohinja. Velik dio te mržnje posljedica je internetske propagande koju su osmislile nacionalističke skupine u Mianmaru šireći lažne vijesti i huškačke videozapise koji demoniziraju Rohinje. 

Još jedna posljedica računalne propagande je da može narušiti povjerenje u demokraciju i institucije. Ova erozija može imati ozbiljne posljedice, što dovodi do povećane polarizacije i političkih nemira među domaćim stanovništvom zemlje. Zbog njezine dokazane učinkovitosti, mnoge vlade i političke stranke diljem svijeta koriste AI propagandu kako bi naoružale platforme društvenih medija protiv njihovih protivnika i kritičara.

Razarajući učinak

Računalna propaganda postaje sve sofisticiranija zbog svoje integracije niza novih inovacija umjetne inteligencije. Jedan primjer uključuje obradu prirodnog jezika (NLP) koja AI-ju omogućuje pisanje originalnog sadržaja koji zvuči ljudski. Osim toga, tehnologiju deepfake i kloniranja glasa svatko može preuzeti. Ove tehnologije omogućuju ljudima stvaranje lažnih likova, oponašanje javnih osoba i organiziranje razrađenih kampanja dezinformiranja iz svojih spavaćih soba. 

Stručnjaci vjeruju da opasnost od automatizirane propagande povećavaju:

• neinformirana javnost,
• pravni sustav koji je loše opremljen za tretiranje masovnih dezinformacija, i
• tvrtke društvenih medija s malo zaštite od iskorištavanja.

Potencijalno rješenje za računalnu propagandu je da Kongres SAD-a izvrši pritisak na društvene mreže da potvrde identitet svojih korisnika. Drugo rješenje je da platforme društvenih medija prihvate modificirani sustav pri čemu treća strana kriptografski provjerava identitet pojedinca prije nego što mu dopusti kreiranje računa.

Međutim, te je mjere teško provesti jer se platforme društvenih medija neprestano mijenjaju i razvijaju. Tim bi korporacijama bilo teško provjeriti korisnike s obzirom na krajolik korištenja interneta koji se stalno mijenja. Osim toga, mnogi ljudi zaziru od vlada koje reguliraju komunikacijske platforme jer to može biti oblik cenzure.

Implikacije računalne propagande

Šire implikacije računalne propagande mogu uključivati: 

• Vlade sve više koriste društvene medije i web stranice s lažnim vijestima za računalnu propagandu koju sponzorira država kako bi utjecale na izbore, politike i vanjske poslove.
• Sve veća upotreba botova društvenih medija, lažnih računa i profila generiranih umjetnom inteligencijom namijenjenih širenju dezinformacija o izmišljenim vijestima i videozapisima.
• Nasilniji incidenti (npr. javni neredi, pokušaji atentata itd.) uzrokovani propagandnim kampanjama dezinformacija na mreži, koji mogu naštetiti građanima, uništiti javnu imovinu i poremetiti osnovne usluge.
• Povećana ulaganja u javno financirane programe osmišljene za osposobljavanje javnosti za prepoznavanje dezinformacija i lažnih vijesti.
• Ponovno jačanje diskriminacije etničkih i manjinskih skupina, što rezultira još većim genocidom i nižom kvalitetom života.
• Tehnološke tvrtke koje primjenjuju napredne algoritme detekcije za prepoznavanje i suzbijanje računalne propagande, što dovodi do poboljšanog integriteta digitalnih medija i povjerenja korisnika.
• Obrazovne institucije koje integriraju medijsku pismenost u nastavne planove i programe, potičući kritičko razmišljanje među učenicima kako bi razlikovali činjenične informacije od računalne propagande.
• Međunarodna suradnja među zemljama za uspostavljanje globalnih standarda i protokola za borbu protiv računalnih dezinformacija, poboljšanje globalne digitalne sigurnosti i suradnje.

Pitanja za razmatranje

• Kako je računalna propaganda utjecala na vašu zemlju?
• Na koje se načine štitite od računalne propagande kada konzumirate sadržaj na internetu?