Taktiken dy't desinformaasje fersprieden: Hoe't it minsklik brein wurdt ynfallen

• Skriuwer:
• Namme fan auteur

  Quantumrun Foresight
• Oktober 4, 2023

Ynsjoch gearfetting

Misynformaasje wurdt ferspraat fia taktyk lykas it Contagion Model en fersifere apps. Groepen lykas Ghostwriter rjochtsje op NATO en Amerikaanske troepen, wylst AI de publike miening manipulearret. Minsken fertrouwe faak fertroude boarnen, wêrtroch't se gefoelich binne foar falske ynformaasje. Dit kin liede ta mear AI-basearre desinformaasjekampanjes, sterkere regearingsregels, ferhege gebrûk fan fersifere apps troch ekstremisten, ferhege cyberfeiligens yn media, en edukative kursussen oer it bestriden fan desinformaasje.

Taktyk fersprieding fan disinformaasjekontekst

Misynformaasjetaktiken binne ark en strategyen dy't faak tapast wurde op sosjale netwurksides, en meitsje in pandemy fan falske oertsjûgingen. Dizze manipulaasje fan ynformaasje hat resultearre yn in wiidferspraat misferstân oer ûnderwerpen fariearjend fan kiezersfraude oant de fraach oft gewelddiedige oanfallen echt binne (bgl. de Sandy Hook-sjitpartij op 'e basisskoalle) of oft faksins feilich binne. As fake nijs bliuwt dield oer ferskate platfoarms, hat it in djip wantrouwen makke tsjin sosjale ynstellingen lykas de media. Ien teory fan hoe't misliedende ynformaasje ferspriedt wurdt Contagion Model neamd, dat is basearre op hoe't kompjûterfirussen wurkje. In netwurk wurdt makke troch knopen, dy't minsken fertsjintwurdigje, en rânen, dy't sosjale keppelings symbolisearje. In konsept wurdt sied yn ien "geast" en ferspriedt ûnder ferskate betingsten en ôfhinklik fan sosjale relaasjes.

It helpt net dat technology en de tanimmende digitalisearring fan 'e maatskippij helpe om taktyk foar misynformaasje effektiver te meitsjen dan ea. In foarbyld is fersifere messaging-apps (EMA's), dy't net allinich it dielen fan falske ynformaasje oan persoanlike kontakten fasilitearje, mar it ek ûnmooglik meitsje foar app-bedriuwen om de berjochten te folgjen dy't dield wurde. Bygelyks, ekstreem-rjochtse groepen oerdroegen oan EMA's nei de oanfal fan 'e Amerikaanske Capitol yn jannewaris 2021, om't mainstream sosjale mediaplatfoarms lykas Twitter se ferbean. Desinformaasjetaktiken hawwe direkte en lange termyn gefolgen. Njonken ferkiezings dêr't twifele persoanen mei misdiedsrekords winne troch trollenbuorkerijen, kinne se minderheden marginalisearje en oarlochspropaganda fasilitearje (bgl. de ynvaazje fan Ruslân yn Oekraïne). 

Disruptive ynfloed

Yn 2020 publisearre befeiligingsbedriuw FireEye in rapport dat de desinformaasjepogingen fan in groep hackers neamd Ghostwriter markeart. Sûnt maart 2017 hawwe de propagandisten leagens ferspraat, benammen tsjin de militêre alliânsje Noard-Atlantyske Ferdrachsorganisaasje (NATO) en Amerikaanske troepen yn Poalen en de Baltika. Se hawwe ferfalske materiaal publisearre op sosjale media en pro-Russyske nijswebsides. Ghostwriter hat soms in mear agressive oanpak brûkt: hacking fan de ynhâldbehearsystemen (CMS) fan nijswebsides om har eigen ferhalen te pleatsen. De groep ferspriedt dan har fake nijs mei falske e-mails, berjochten op sosjale media, en sels op-eds skreaun troch har op oare siden dy't ynhâld fan lêzers akseptearje.

In oare desinformaasjetaktyk brûkt algoritmen en keunstmjittige yntelliginsje (AI) om de publike miening op sosjale media te manipulearjen, lykas it "fersterkjen" fan followers fan sosjale media fia bots of it meitsjen fan automatisearre troll-akkounts om haatlike opmerkings te pleatsen. Eksperts neame dit computational propaganda. Underwilens ûntdekte ûndersyk fan The New York Times dat politisy e-post brûke om desinformaasje faker te fersprieden dan minsken realisearje. Yn 'e FS binne beide partijen skuldich oan it brûken fan hyperbool yn har e-mails oan dielnimmers, wat faaks it dielen fan falske ynformaasje kin stimulearje. 

D'r binne in pear wichtige redenen wêrom't minsken falle foar misinformationskampanjes. 

• Earst binne minsken sosjaal learers en tendearje har boarnen fan ynformaasje te fertrouwen lykas freonen of famyljeleden. Dizze minsken krije op har beurt har nijs fan fertroude freonen, wat it dreech makket om dizze syklus te brekken. 
• Twad, minsken mislearje faaks de ynformaasje dy't se konsumearje proaktyf te kontrolearjen, foaral as se wend binne om har nijs fan ien boarne te krijen (faak tradisjonele media of har favorite sosjale media platfoarms lykas Facebook of Twitter). As se in kop of in ôfbylding (en sels gewoan branding) sjogge dy't har leauwen stypje, freegje se faaks net de autentisiteit fan dizze oanspraken (hoe bespotlik ek). 
• Echo-keamers binne krêftige disinformaasje-ark, wêrtroch minsken mei tsjinoerstelde leauwen automatysk de fijân meitsje. It minsklik brein is hardwired om ynformaasje te sykjen dy't besteande ideeën stipet en koartingsynformaasje dy't tsjin har yngiet.

Bredere gefolgen fan taktyk dy't disinformaasje ferspriedt

Mooglike gefolgen fan taktyk dy't disinformaasje fersprieden kinne omfetsje: 

• Mear bedriuwen dy't spesjalisearje yn AI en bots om politisy en propagandisten te helpen folgers en "leauwichheid" te krijen troch tûke disinformaasjekampanjes.
• Regearingen wurde ûnder druk brocht om wetten en ynstânsjes anty-disinformaasje te meitsjen om trollenbuorkerijen en strategyen foar misynformaasje te bestriden.
• Tanimmende downloads fan EMA's foar ekstremistyske groepen dy't propaganda wolle ferspriede en reputaasjes ferneatigje.
• Mediasiden dy't ynvestearje yn djoere oplossingen foar cybersecurity om te foarkommen dat hackers fan desinformaasje falsk nijs yn har systemen plante. Nije generative AI-oplossingen kinne wurde brûkt yn dit moderaasjeproses.
• Generative AI-oandreaune bots kinne wurde brûkt troch minne akteurs om in weach fan propaganda en desinformaasje media-ynhâld op skaal te produsearjen.
• Ferhege druk foar universiteiten en mienskipsskoallen om kursussen tsjin disinformaasje op te nimmen. 

Fragen om te beskôgje

• Hoe beskermje jo josels tsjin disinformaasjetaktiken?
• Hoe kinne oerheden en ynstânsjes oars de fersprieding fan dizze taktyk foarkomme?