Beregningsmæssig propaganda: æraen med automatiseret bedrag

• Forfatter:
• Forfatter navn

  Quantumrun Foresight
• November 21, 2022

Oversigt over indsigt

I de sociale mediers tidsalder er det blevet stadig sværere for nogle mennesker at stole på, hvad de ser og hører på grund af udbredelsen af ​​computerpropaganda – algoritmer designet til at manipulere den offentlige mening. Denne teknologi bruges primært til at påvirke folks opfattelse af politiske spørgsmål. Og efterhånden som systemer med kunstig intelligens (AI) fortsætter med at udvikle sig, kan computerpropaganda blive anvendt til stadigt mere dødelige formål.

Computational propaganda kontekst

Computational propaganda bruger AI-systemer til at skabe og formidle vildledende eller falsk information online. Især Big Tech-firmaer som Facebook, Google og Twitter er blevet kritiseret for at bruge deres algoritmer til at manipulere den offentlige mening. For eksempel blev Facebook i 2016 beskyldt for at bruge sin algoritme til at undertrykke konservative nyhedshistorier fra sin sektion med trendende emner. I mellemtiden var det amerikanske præsidentvalg i 2016 en højprofileret sag, hvor beregningsmæssig propaganda siges at påvirke vælgerne. For eksempel blev Google beskyldt for at fordreje sine søgeresultater for at favorisere Hillary Clinton, og Twitter blev kritiseret for at tillade bots at sprede falsk information under valget. 

Effekterne af beregningsmæssig propaganda mærkes globalt, især under nationale valg og ofte mod minoritetsgrupper. I Myanmar har der fra 2017 til 2022 været en stigning i hadefulde ytringer og vold mod den muslimske rohingya-minoritetsgruppe. Meget af dette had skyldes online-propaganda udviklet af nationalistiske grupper i Myanmar, der spreder falske nyheder og inflammatoriske videoer, der dæmoniserer rohingyaerne. 

En anden konsekvens af beregningsmæssig propaganda er, at den kan udhule tilliden til demokrati og institutioner. Denne erosion kan have alvorlige konsekvenser, hvilket fører til øget polarisering og politisk uro blandt et lands indenlandske befolkning. På grund af dets dokumenterede effektivitet bruger mange regeringer og politiske partier globalt AI-propaganda til at bevæbne sociale medieplatforme mod deres modstandere og kritikere.

Forstyrrende påvirkning

Beregningsmæssig propaganda bliver stadig mere sofistikeret på grund af dens integration af en række nye AI-innovationer. Et eksempel omfatter naturlig sprogbehandling (NLP), som gør AI i stand til at skrive originalt indhold, der lyder menneskeligt. Derudover kan deepfake og stemmekloningsteknologi downloades af alle. Disse teknologier giver folk mulighed for at skabe falske personas, efterligne offentlige personer og iscenesætte omfattende desinformationskampagner fra deres soveværelser. 

Eksperter mener, at faren for automatiseret propaganda forstørres af:

• en uoplyst offentlighed,
• et retssystem, der er dårligt rustet til at behandle massedesinformation, og
• sociale medievirksomheder med ringe beskyttelse mod udnyttelse.

En potentiel løsning på computerpropaganda er, at den amerikanske kongres presser sociale medievirksomheder til at verificere deres brugeres identitet. En anden løsning er, at sociale medieplatforme vedtager et modificeret system, hvor en tredjepart kryptografisk verificerer en persons identitet, før de tillader dem at oprette en konto.

Disse tiltag er dog udfordrende at implementere, fordi sociale medieplatforme konstant ændrer sig og udvikler sig. Det ville være svært for disse virksomheder at verificere brugere med det stadigt skiftende landskab af onlinebrug. Derudover er mange mennesker på vagt over for regeringer, der regulerer kommunikationsplatforme, da det kan være en form for censur.

Implikationer af beregningsmæssig propaganda

Bredere implikationer af beregningsmæssig propaganda kan omfatte: 

• Regeringer bruger i stigende grad sociale medier og falske nyhedswebsteder til statssponsoreret computerpropaganda for at påvirke valg, politikker og udenrigsanliggender.
• Den stigende brug af sociale medier-bots, falske konti og AI-genererede profiler designet til at sprede desinformation om opdigtede nyheder og videoer.
• Mere voldelige hændelser (f.eks. offentlige optøjer, mordforsøg osv.) forårsaget af desinformationspropagandakampagner online, som kan skade borgere, ødelægge offentlig ejendom og forstyrre væsentlige tjenester.
• Øgede investeringer i offentligt finansierede programmer designet til at træne offentligheden i at identificere desinformation og falske nyheder.
• Genhåndhævelse af diskrimination af etniske grupper og minoritetsgrupper, hvilket resulterer i flere folkedrab og lavere livskvalitet.
• Teknologivirksomheder, der implementerer avancerede detektionsalgoritmer til at identificere og imødegå beregningsmæssig propaganda, hvilket fører til forbedret digital medieintegritet og brugertillid.
• Uddannelsesinstitutioner integrerer mediekendskab i læseplaner, fremmer kritisk tænkning blandt elever for at skelne faktuel information fra computerpropaganda.
• Internationalt samarbejde mellem lande for at etablere globale standarder og protokoller til bekæmpelse af computerdesinformation, forbedring af global digital sikkerhed og samarbejde.

Spørgsmål at overveje

• Hvordan har computerpropaganda påvirket dit land?
• På hvilke måder beskytter du dig selv mod beregningsmæssig propaganda, når du forbruger indhold online?