Deepfakes i politika: Mijenjanje stvarnosti radi osiguranja političke moći

• Autor:
• ime autora

  Quantumrun Foresight
• Ožujak 11, 2022

Sažetak uvida

Tehnologija Deepfake, koja koristi umjetnu inteligenciju za stvaranje uvjerljivih lažnih medija, pojavila se kao moćan alat s potencijalnom primjenom i zlouporabama u politici. Sposobnost tehnologije da manipulira javnim mnijenjem i nagriza povjerenje u institucije izaziva ozbiljnu zabrinutost. Napori u borbi protiv dubokih lažiranja, kao što su zakoni i partnerstva između tehnoloških divova i vladinih agencija, odražavaju hitnost rješavanja ovog problema.

Deepfake politički kontekst

Deepfakes su mediji generirani umjetnom inteligencijom koji stvaraju autentične slike, audio datoteke ili videozapise osobe ili subjekta. Ova se tehnologija koristi za manipulaciju javnim mnijenjem, posebice u političkoj areni. Na temelju tehnika prepoznavanja lica i strojnog učenja kao što su generativne kontradiktorne mreže (GAN), deepfakeovi mogu generirati uvjerljive replike subjekata skeniranjem tisuća slika.

Od svog debija 2017., deepfakeovi su korišteni u razne svrhe, uključujući stvaranje pornografskih videa i navođenje političara na davanje neugodnih izjava. Deepfake bivšeg američkog predsjednika Baracka Obame 2018. istaknuo je potencijalne negativne učinke na politiku. Ovi su incidenti izazvali zabrinutost zbog mračnijih primjena deepfakeova i njihovog potencijala da potkopaju demokratske procese.

Brzi napredak tehnologije deepfakea doveo je do straha da bi moglo postati sve teže razlikovati autentični sadržaj od lažnog. Ovaj scenarij prijeti ne samo individualnim percepcijama istine nego i integritetu političkih procesa. Napori da se uhvati u koštac s deepfakeovima, kao što je Deepfake Report Act u SAD-u i istraživački programi kao što je Media Forensics (MediFor), odražavaju sve veće prepoznavanje potrebe za rješavanjem ovog izazova.

Razarajući učinak

Brzi napredak tehnologije Deepfake doveo je do zabrinutosti da bi mogla doći do točke u kojoj stručnjaci ne mogu razlikovati pravi i lažni sadržaj. Ovakav scenarij mogao bi dodatno narušiti povjerenje javnosti i ugroziti političke procese. Potencijalni negativni učinci uključuju izbornu manipulaciju, nepovjerenje u vladu i institucije te štetu ugledu dužnosnika.

Kao odgovor na to, donesen je zakon kao što je Deepfake Report Act, a programi poput MediFora naručeni su za otkrivanje i razumijevanje deepfake manipulacije. Partnerstva između tvrtki poput Googlea i državnih institucija, poput Agencije za napredna obrambena istraživanja (DARPA), imaju za cilj razvoj digitalnih forenzičkih tehnika. Ovi napori predstavljaju zajednički pokušaj ublažavanja budućih opasnosti od dubokih lažiranja u politici.

Šire društvene implikacije deepfakea protežu se izvan politike. Potencijal tehnologije da manipulira javnim mišljenjem i ponašanjem ima posljedice za medijsku potrošnju, obrazovanje i odnos između građana i njihovih vlada. Odgovor na deepfake nudi uvid u to kako se društvo može prilagoditi novim tehnologijama, balansirajući inovacije s etičkim razmatranjima i javnim interesom.

Implikacije deepfake politike

Šire implikacije deepfake politike mogu uključivati:

• Povećani rizik stranog uplitanja u izbore, s mogućim geopolitičkim i gospodarskim posljedicama.
• Povećana učinkovitost kampanja dezinformiranja, usmjerenih na određene demografske skupine kako bi se utjecalo na ponašanje i mišljenja.
• Veća ulaganja u programe javnog obrazovanja za poboljšanje medijske pismenosti i vještina kritičkog mišljenja.
• Razvoj novih pravnih okvira i propisa za upravljanje uporabom i zlouporabom tehnologije deepfake.
• Suradnja između tehnoloških tvrtki, vlada i međunarodnih organizacija za razvoj alata za otkrivanje i prevenciju.
• Potencijalni utjecaj na novinarstvo i medijski integritet, zahtijeva nove standarde i prakse.
• Utjecaj na diplomatske odnose, budući da se deepfakeovi mogu koristiti za manipulaciju međunarodnim pregovorima i sporazumima.
• Izazovi u provođenju zakona i pravnim postupcima, jer deepfakeovi mogu zakomplicirati dokaze i svjedočenje.
• Dugoročni učinci na povjerenje javnosti u institucije, medije i vođe, oblikovanje demokratskih vrijednosti i građanskog angažmana.

Pitanja za razmatranje

• Jeste li ikada vidjeli deepfake i jeste li ih uspjeli identificirati? 
• Što mislite kako bi vlada trebala educirati javnost o deepfakeovima?