Quantumrun

Ofbyldingskredyt:

iStock

Computational propaganda: It tiidrek fan automatisearre ferrifeljen

Computational propaganda kontrolearret populaasjes en makket se mear gefoelich foar disinformaasje.

Skriuwer:
Namme fan auteur
Quantumrun Foresight
Novimber 21, 2022

Ynsjoch gearfetting

Yn 'e tiid fan sosjale media is it foar guon minsken hieltyd dreger wurden om te fertrouwen wat se sjogge en hearre troch de fersprieding fan komputerpropaganda - algoritmen ûntworpen om de publike miening te manipulearjen. Dizze technology wurdt primêr brûkt om de persepsjes fan minsken fan politike problemen te swaaien. En as systemen foar keunstmjittige yntelliginsje (AI) trochgean te ûntwikkeljen, kin komputerpropaganda wurde tapast op hieltyd mear deadlike doelen.

Computational propaganda kontekst

Computational propaganda brûkt AI-systemen om misleidende of falske ynformaasje online te meitsjen en te fersprieden. Benammen Big Tech-bedriuwen lykas Facebook, Google en Twitter binne bekritisearre foar it brûken fan har algoritmen om de publike miening te manipulearjen. Bygelyks, Facebook waard yn 2016 beskuldige fan it brûken fan syn algoritme om konservative nijsferhalen te ûnderdrukken fan har seksje mei trendende ûnderwerpen. Underwilens wie de presidintsferkiezings fan 2016 fan 'e Feriene Steaten in saak mei hege profyl wêr't berekkeningspropaganda de kiezers beynfloede. Bygelyks, Google waard beskuldige fan skewearjen fan syn sykresultaten om Hillary Clinton te favorisearjen en Twitter waard bekritisearre foar it tastean fan bots om falske ynformaasje te fersprieden tidens de ferkiezings.

De effekten fan komputerpropaganda wurde wrâldwiid field, benammen by nasjonale ferkiezings en faak tsjin minderheidsgroepen. Yn Myanmar, fan 2017 oant 2022, hat d'r in tanimming west yn haatspraak en geweld tsjin de Rohingya-moslim-minderheidsgroep. In grut part fan dizze haat is te tankjen oan online propaganda makke troch nasjonalistyske groepen yn Myanmar dy't falsk nijs en inflammatoire fideo's ferspriede dy't de Rohingya demonisearje.

In oar gefolch fan komputerpropaganda is dat it fertrouwen yn demokrasy en ynstellingen kin erodearje. Dizze eroazje kin serieuze gefolgen hawwe, dy't liede ta tanommen polarisaasje en politike ûnrêst ûnder de ynlânske befolking fan in lân. Troch syn bewezen effektiviteit brûke in protte regearingen en politike partijen wrâldwiid AI-propaganda om sosjale mediaplatfoarms te wapenjen tsjin har tsjinstanners en kritisy.

Disruptive ynfloed

Computational propaganda wurdt hieltyd ferfine troch syn yntegraasje fan in ferskaat oan opkommende AI-ynnovaasjes. Ien foarbyld omfettet natuerlike taalferwurking (NLP) wêrtroch AI orizjinele ynhâld kin skriuwe dy't minsklik klinkt. Dêrnjonken binne deepfake en stim cloning technology te downloaden troch elkenien. Mei dizze technologyen kinne minsken falske persona's meitsje, iepenbiere figueren foardogge, en útwurke disinformaasjekampanjes út har sliepkeamers opstelle.

Eksperts leauwe dat it gefaar fan automatisearre propaganda wurdt fergrutte troch:

in ûnynformeard publyk,
in juridysk systeem dat is min útrist te behanneljen massa disinformation, en
sosjale media bedriuwen mei in bytsje beskerming tsjin eksploitaasje.

In potinsjele oplossing foar komputerpropaganda is foar it Amerikaanske Kongres om bedriuwen op sosjale media te drukken om de identiteiten fan har brûkers te ferifiearjen. In oare oplossing is foar sosjale mediaplatfoarms om in oanpast systeem oan te nimmen wêrby't in tredde partij de identiteit fan in yndividu kryptografysk ferifiearret foardat se in akkount meitsje kinne.

Dizze maatregels binne lykwols útdaagjend om te ymplementearjen, om't sosjale mediaplatfoarms konstant feroarje en evoluearje. It soe lestich wêze foar dizze korporaasjes om brûkers te ferifiearjen mei it hieltyd feroarjende lânskip fan online gebrûk. Derneist binne in protte minsken warskôge foar oerheden dy't kommunikaasjeplatfoarms regelje, om't it in foarm fan sensuer kin wêze.

Gefolgen fan komputaasjepropaganda

Bredere gefolgen fan komputerpropaganda kinne omfetsje:

Oerheden brûke hieltyd mear sosjale media en falske nijswebsides foar steatssponsore komputaasjepropaganda om ferkiezings, belied en bûtenlânske saken te beynfloedzjen.
It tanimmend gebrûk fan sosjale media-bots, falske akkounts, en AI-generearre profilen ûntworpen om disinformaasje te fersprieden oer fabrisearre nijs en fideo's.
Mear gewelddiedige ynsidinten (bgl. iepenbiere rellen, moardpogingen, ensfh.) Feroarsake troch online propagandakampanjes fan disinformaasje, dy't boargers skea kinne, iepenbier eigendom ferneatigje en essensjele tsjinsten fersteure.
Ferheegde ynvestearrings yn programma's dy't troch it publyk finansiere binne ûntworpen om it publyk te trenen om disinformaasje en falsk nijs te identifisearjen.
Opnij hanthavenjen fan diskriminaasje tsjin etnyske en minderheidsgroepen, mei as gefolch mear genoside en legere leefberens.
Technyske bedriuwen dy't avansearre deteksjealgoritmen ynsette foar it identifisearjen en tsjingean fan komputaasjepropaganda, wat liedt ta ferbettere digitale media-yntegriteit en brûkersfertrouwen.
Underwiisynstellingen yntegrearje mediageletterdheid yn kurrikula, stimulearje kritysk tinken ûnder studinten om feitlike ynformaasje te ûnderskieden fan komputaasjepropaganda.
Ynternasjonale gearwurkingsferbannen tusken lannen om wrâldwide noarmen en protokollen te fêstigjen foar it bestriden fan komputative disinformaasje, it ferbetterjen fan globale digitale feiligens en gearwurking.