Syntetisk mediefalskhet: Å se er ikke å tro lenger

• Forfatter:
• forfatternavn

  Quantumrun Foresight
• Februar 22, 2024

Oppsummering av innsikt

Syntetiske medier, som blander kunstig intelligens (AI) med video, lyd og visuelle elementer, er så realistisk at det er vanskelig å skille fra faktiske medier. Utviklingen går flere tiår tilbake, med dyp læring (DL) og Generative Adversarial Networks (GANs) som spiller en nøkkelrolle i utviklingen. Etter hvert som denne teknologien utvikler seg, gir den kreative muligheter og betydelige utfordringer for personvern, etikk og feilinformasjon.

Syntetisk mediefalsk kontekst

Syntetiske medier representerer en banebrytende kombinasjon av AI-generert innhold, som omfatter live video, visuelle elementer og lyd innenfor et avansert teknologisk rammeverk. Denne medieformen er preget av sin eksepsjonelle realisme og oppslukende kvaliteter, noe som gjør den nesten umulig å skille fra virkelige medier. Opprettelsen av syntetiske medier kan spores tilbake til 1950-tallet, og gjennomgikk en betydelig utvikling på slutten av 1980-tallet og begynnelsen av 1990-tallet da beregningskraften økte. 

Deep learning er kjerneteknologien som driver syntetiske medier, en sofistikert gren av maskinlæring (ML). Spesielt innflytelsesrike på dette domenet er GAN-er, som har revolusjonert feltet ved å lære av eksisterende bilder for å produsere helt nye, men uhyggelig autentiske. GAN-er opererer ved hjelp av et dobbelt nevralt nettverkssystem: ett nettverk genererer falske bilder basert på ekte, mens det andre evaluerer deres autentisitet, og flytter grensene for hva som er mulig innen datasyn og bildebehandling.

Ettersom AI fortsetter sin raske fremgang, blir bruken og implikasjonene til syntetiske medier stadig mer betydningsfulle. Mens disse teknologiske fremskritt åpner dører for innovasjon på tvers av ulike sektorer, inkludert videospill, autonome kjøretøy og ansiktsgjenkjenning, introduserer de samtidig presserende bekymringer angående personvern og etikk. Fremtiden til syntetiske medier representerer dermed et tveegget sverd, som tilbyr et stort potensial for kreativitet og innovasjon, samtidig som det utfordrer oss til å ta opp dets etiske og personvernrelaterte implikasjoner.

Forstyrrende påvirkning

En studie fra 2022 utført av den ideelle organisasjonen Rand Corporation diskuterer de fire primære risikoene ved syntetiske medier: manipulering av valg gjennom fabrikkerte videoer av kandidater, forverring av sosiale skiller ved å forsterke propaganda og partisk innhold, erosjon av tillit til institusjoner gjennom falske representasjoner av autoritetsfigurer, og undergraving av journalistikk ved å så tvil om autentisiteten til legitime nyheter. Disse dype forfalskningene kan være spesielt skadelige i utviklingsland der lavere utdanningsnivåer, skjøre demokratier og interetniske konflikter er utbredt. Feilinformasjon er allerede et betydelig problem i disse regionene, og dype forfalskninger kan forsterke tvister og vold, som sett i tidligere hendelser i land som Myanmar, India og Etiopia. Dessuten øker de begrensede ressursene som er allokert til innholdsmoderering utenfor USA, spesielt på plattformer som WhatsApp, risikoen for at deepfakes blir uoppdaget i disse områdene.

Deepfakes utgjør også unike trusler mot kvinner, gitt kjønnsforskjellene i pornografisk innhold. AI-genererte medier har blitt brukt til å lage dypfalsk pornografi uten samtykke, noe som har ført til misbruk og utnyttelse. Disse teknologiene kan også utgjøre sikkerhetsrisiko ved å målrette etterretningsoperatører, politiske kandidater, journalister og ledere for sjenanse eller manipulasjon. Historiske eksempler, som den russiskstøttede desinformasjonskampanjen mot den ukrainske parlamentarikeren Svitlana Zalishchuk, viser potensialet for slike angrep.

Det vitenskapelige samfunnets forståelse av de samfunnsmessige implikasjonene av dype falske er fortsatt under utvikling, med studier som gir blandede resultater om brukernes evne til å oppdage disse videoene og deres innvirkning. Noen undersøkelser tyder på at mennesker kan være bedre til å oppdage dype forfalskninger enn maskiner, men disse videoene blir ofte sett på som levende, overbevisende og troverdige, noe som øker sannsynligheten for at de spres på sosiale medier. Imidlertid kan påvirkningen av dypfalske videoer på tro og oppførsel være mindre enn forventet, noe som indikerer at bekymringer om deres overtalelsesevne kan være noe for tidlig. 

Implikasjoner av falske syntetiske medier

Større implikasjoner av falske syntetiske medier kan omfatte: 

• Forbedrede teknikker innen autentisering av digitalt innhold, som fører til mer sofistikerte metoder for å verifisere medienes autentisitet.
• Økt etterspørsel etter opplæring i digital kompetanse i skolen, som utstyrer fremtidige generasjoner med ferdigheter til å kritisk analysere medier.
• Endringer i journalistiske standarder, som krever strengere verifiseringsprosesser for multimedieinnhold for å opprettholde troverdigheten.
• Utvidelse av juridiske rammer for manipulering av digitalt innhold, og gir bedre beskyttelse mot feilinformasjon.
• Forbedret personvernrisiko på grunn av potensiell misbruk av ansiktsgjenkjenning og personlige data for å lage dype forfalskninger.
• Utvikling av nye markedssektorer som spesialiserer seg på deepfake-deteksjon og forebygging, skaper jobbmuligheter og teknologiske fremskritt.
• Politiske kampanjer som tar i bruk strengere medieovervåkingspraksis for å redusere virkningen av falskt innhold på valg.
• Endringer i annonserings- og markedsføringsstrategier, med økt vekt på autentisitet og verifiserbart innhold for å opprettholde forbrukernes tillit.
• En økning i psykologiske påvirkninger på grunn av spredning av realistisk, men falskt innhold, som potensielt kan påvirke mental helse og offentlig oppfatning.
• Endringer i internasjonale relasjoners dynamikk ettersom deepfakes blir et verktøy i geopolitiske strategier, som påvirker diplomati og global tillit.

Spørsmål å vurdere

• Hvordan påvirker syntetiske medier din oppfatning av aktuelle hendelser?
• Hvordan kan utviklingen av deepfake-teknologi påvirke balansen mellom ytringsfrihet og behovet for regulering for å forhindre feilinformasjon og misbruk?