Taktikk som sprer desinformasjon: Hvordan den menneskelige hjernen invaderes

• Forfatter:
• forfatternavn

  Quantumrun Foresight
• Oktober 4, 2023

Oppsummering av innsikt

Feilinformasjon spres gjennom taktikker som smittemodellen og krypterte apper. Grupper som Ghostwriter sikter mot NATO og amerikanske tropper, mens AI manipulerer opinionen. Folk stoler ofte på kjente kilder, noe som gjør dem mottakelige for falsk informasjon. Dette kan føre til flere AI-baserte desinformasjonskampanjer, sterkere myndighetsreguleringer, økt bruk av krypterte apper av ekstremister, økt cybersikkerhet i media og opplæringskurs i bekjempelse av desinformasjon.

Taktikk som sprer desinformasjonskontekst

Feilinformasjonstaktikker er verktøy og strategier som ofte brukes på sosiale nettverkssider, og skaper en pandemi av falsk tro. Denne manipulasjonen av informasjon har resultert i en utbredt misforståelse om emner som spenner fra velgersvindel til hvorvidt voldelige angrep er reelle (f.eks. Sandy Hook barneskoleskyting) eller om vaksiner er trygge. Ettersom falske nyheter fortsetter å bli delt på tvers av forskjellige plattformer, har det skapt en dyp mistillit mot sosiale institusjoner som media. En teori om hvordan misvisende informasjon spres kalles Contagion Model, som er basert på hvordan datavirus fungerer. Et nettverk skapes av noder, som representerer mennesker, og kanter, som symboliserer sosiale koblinger. Et konsept er sådd i ett "sinn" og sprer seg under ulike forhold og avhengig av sosiale relasjoner.

Det hjelper ikke at teknologi og den økende digitaliseringen av samfunnet bidrar til å gjøre feilinformasjonstaktikker mer effektive enn noen gang. Et eksempel er krypterte meldingsapper (EMA), som ikke bare gjør det lettere å dele falsk informasjon til personlige kontakter, men også gjør det umulig for appselskaper å spore meldingene som deles. For eksempel overførte høyreekstreme grupper til EMA-er etter US Capitol-angrepet i januar 2021 fordi vanlige sosiale medieplattformer som Twitter forbød dem. Desinformasjonstaktikker har umiddelbare og langsiktige konsekvenser. Bortsett fra valg hvor tvilsomme personligheter med kriminalitet vinner gjennom trollfarmer, kan de marginalisere minoriteter og legge til rette for krigspropaganda (f.eks. Russlands Ukraina-invasjon). 

Forstyrrende påvirkning

I 2020 ga sikkerhetsselskapet FireEye ut en rapport som fremhever desinformasjonsinnsatsen til en gruppe hackere kalt Ghostwriter. Siden mars 2017 har propagandistene spredt løgner, spesielt mot militæralliansen North Atlantic Treaty Organization (NATO) og amerikanske tropper i Polen og Baltikum. De har publisert forfalsket materiale på sosiale medier og pro-russiske nyhetsnettsteder. Ghostwriter har noen ganger brukt en mer aggressiv tilnærming: hacking av innholdsstyringssystemene (CMS) til nyhetsnettsteder for å legge ut sine egne historier. Gruppen distribuerer deretter falske nyheter ved å bruke falske e-poster, innlegg på sosiale medier og til og med meninger skrevet av dem på andre nettsteder som godtar innhold fra lesere.

En annen desinformasjonstaktikk bruker algoritmer og kunstig intelligens (AI) for å manipulere opinionen på sosiale medier, for eksempel å "øke" følgere på sosiale medier gjennom roboter eller opprette automatiserte trollkontoer for å legge ut hatefulle kommentarer. Eksperter kaller dette beregningsmessig propaganda. I mellomtiden oppdaget undersøkelser fra The New York Times at politikere bruker e-post til å spre desinformasjon oftere enn folk er klar over. I USA er begge parter skyldige i å bruke overdrivelse i e-postene sine til bestanddeler, noe som ofte kan oppmuntre til å dele falsk informasjon. 

Det er noen viktige årsaker til at folk faller for feilinformasjonskampanjer. 

• For det første er folk sosiale lærende og har en tendens til å stole på informasjonskildene sine som venner eller familiemedlemmer. Disse menneskene får på sin side nyhetene sine fra pålitelige venner, noe som gjør det vanskelig å bryte denne syklusen. 
• For det andre unnlater folk ofte å proaktivt faktasjekke informasjonen de bruker, spesielt hvis de er vant til å få nyhetene sine fra én kilde (ofte tradisjonelle medier eller sosiale favorittmedier). plattformer som Facebook eller Twitter). Når de ser en overskrift eller et bilde (og til og med bare merkevarebygging) som støtter deres tro, stiller de ofte ikke spørsmål ved ektheten til disse påstandene (uansett hvor latterlige de er). 
• Ekkokamre er kraftige desinformasjonsverktøy, som automatisk gjør mennesker med motsatt tro til fienden. Den menneskelige hjernen er hardwired til å søke informasjon som støtter eksisterende ideer og rabattinformasjon som går imot dem.

Større implikasjoner av taktikk som sprer desinformasjon

Mulige implikasjoner av taktikk som sprer desinformasjon kan omfatte: 

• Flere selskaper som spesialiserer seg på AI og roboter for å hjelpe politikere og propagandister med å få tilhengere og "troverdighet" gjennom smarte desinformasjonskampanjer.
• Regjeringer blir presset til å opprette anti-desinformasjonslover og byråer for å bekjempe trollfarmer og feilinformasjonsstrateger.
• Økende nedlastinger av EMA for ekstremistiske grupper som ønsker å spre propaganda og ødelegge omdømmet.
• Mediesider som investerer i dyre cybersikkerhetsløsninger for å hindre desinformasjonshackere fra å plante falske nyheter i systemene deres. Nye generative AI-løsninger kan brukes i denne modereringsprosessen.
• Generative AI-drevne roboter kan bli brukt av dårlige aktører for å produsere en bølge av propaganda og desinformasjon medieinnhold i stor skala.
• Økt press for universiteter og samfunnsskoler for å inkludere kurs mot desinformasjon. 

Spørsmål å vurdere

• Hvordan beskytter du deg mot desinformasjonstaktikker?
• Hvordan kan ellers myndigheter og byråer hindre spredningen av disse taktikkene?