Sintetička medijska neistina: Vidjeti više nije vjerovati

• Autor:
• ime autora

  Quantumrun Foresight
• Veljače 22, 2024

Sažetak uvida

Sintetički mediji, koji spajaju umjetnu inteligenciju (AI) s video, audio i vizualnim elementima, toliko su realistični da ih je teško razlikovati od stvarnih medija. Njegov razvoj seže desetljećima unatrag, a duboko učenje (DL) i generativne kontradiktorne mreže (GAN) igraju ključnu ulogu u njegovom napretku. Kako se ova tehnologija razvija, ona predstavlja kreativne prilike i značajne izazove u vezi s privatnošću, etikom i dezinformacijama.

Kontekst laži sintetičkih medija

Sintetički mediji predstavljaju revolucionarnu kombinaciju sadržaja generiranog umjetnom inteligencijom, koji obuhvaća video uživo, vizualne elemente i zvuk unutar naprednog tehnološkog okvira. Ovu medijsku formu karakterizira izniman realizam i impresivne kvalitete, što ga čini gotovo nerazlučivim od medija iz stvarnog svijeta. Stvaranje sintetičkih medija može se pratiti unazad do 1950-ih godina, prolazeći kroz značajnu evoluciju kasnih 1980-ih i ranih 1990-ih kako je računalna snaga naglo rasla. 

Duboko učenje temeljna je tehnologija koja pokreće sintetičke medije, sofisticiranu granu strojnog učenja (ML). Osobito utjecajni u ovoj domeni su GAN-ovi, koji su revolucionirali ovo područje učeći iz postojećih slika kako bi proizveli potpuno nove, ali jezivo autentične. GAN-ovi rade pomoću sustava dvojne neuronske mreže: jedna mreža generira lažne slike na temelju stvarnih, dok druga procjenjuje njihovu autentičnost, pomičući granice onoga što je moguće u računalnom vidu i obradi slike.

Kako AI nastavlja brzo napredovati, primjene i implikacije sintetičkih medija postaju sve značajnije. Dok ovi tehnološki pomaci otvaraju vrata inovacijama u raznim sektorima, uključujući videoigre, autonomna vozila i prepoznavanje lica, oni istovremeno uvode goruću zabrinutost u vezi s privatnošću i etikom. Budućnost sintetičkih medija stoga predstavlja mač s dvije oštrice, nudeći golem potencijal za kreativnost i inovacije, dok nas izaziva da se pozabavimo njihovim etičkim implikacijama i implikacijama povezanima s privatnošću.

Razarajući učinak

Studija iz 2022. koju je provela neprofitna organizacija Rand Corporation raspravlja o četiri primarna rizika sintetičkih medija: manipulacija izborima putem izmišljenih videa kandidata, pogoršanje društvenih podjela pojačavanjem propagande i stranačkog sadržaja, erozija povjerenja u institucije lažnim predstavljanjem autoriteta, i potkopavanje novinarstva dovođenjem sumnje u autentičnost legitimnih vijesti. Ove duboke krivotvorine mogu biti posebno štetne u zemljama u razvoju u kojima prevladavaju niže razine obrazovanja, krhke demokracije i međuetnički sukobi. Dezinformacije su već značajan problem u ovim regijama, a deepfakeovi bi mogli pojačati sporove i nasilje, kao što se vidjelo u prošlim incidentima u zemljama poput Mianmara, Indije i Etiopije. Štoviše, ograničeni resursi dodijeljeni moderiranju sadržaja izvan SAD-a, posebno na platformama poput WhatsAppa, povećavaju rizik da deepfakeovi ostanu neotkriveni u tim područjima.

Deepfake također predstavljaju jedinstvenu prijetnju ženama, s obzirom na rodnu nejednakost u pornografskom sadržaju. Mediji generirani umjetnom inteligencijom korišteni su za stvaranje deepfake pornografije bez pristanka, što dovodi do zlostavljanja i iskorištavanja. Te tehnologije također mogu predstavljati sigurnosne rizike ciljajući obavještajne operativce, političke kandidate, novinare i vođe radi posramljivanja ili manipulacije. Povijesni primjeri, kao što je kampanja dezinformiranja koju je poduprla Rusija protiv ukrajinske parlamentarke Svitlane Zalishchuk, pokazuju potencijal za takve napade.

Razumijevanje znanstvene zajednice o društvenim implikacijama deepfakea još uvijek se razvija, a studije nude mješovite rezultate o sposobnostima korisnika da otkriju te videozapise i njihov utjecaj. Neka istraživanja sugeriraju da su ljudi možda bolji u otkrivanju deepfakeova od strojeva, no ti se videozapisi često smatraju živopisnim, uvjerljivim i vjerodostojnim, što povećava vjerojatnost njihovog širenja na društvenim medijima. Međutim, utjecaj deepfake videa na uvjerenja i ponašanje mogao bi biti manji od očekivanog, što ukazuje da bi zabrinutost o njihovoj uvjerljivosti mogla biti donekle preuranjena. 

Implikacije neistine sintetičkih medija

Šire implikacije laži sintetičkih medija mogu uključivati: 

• Poboljšane tehnike u autentifikaciji digitalnog sadržaja, što dovodi do sofisticiranijih metoda za provjeru autentičnosti medija.
• Povećana potražnja za obrazovanjem o digitalnoj pismenosti u školama, opremajući buduće generacije vještinama za kritičku analizu medija.
• Promjene u novinarskim standardima, zahtijevaju strože procese provjere multimedijskih sadržaja kako bi se održala vjerodostojnost.
• Proširenje pravnih okvira koji se bave manipulacijom digitalnim sadržajem, nudeći bolju zaštitu od dezinformacija.
• Povećani rizici za osobnu privatnost zbog potencijalne zlouporabe prepoznavanja lica i osobnih podataka u stvaranju deepfakeova.
• Razvoj novih tržišnih sektora specijaliziranih za otkrivanje i prevenciju deepfakea, stvaranje prilika za zapošljavanje i tehnološki napredak.
• Političke kampanje koje usvajaju strože prakse praćenja medija kako bi se ublažio utjecaj lažnog sadržaja na izbore.
• Promjene u strategijama oglašavanja i marketinga, s povećanim naglaskom na autentičnost i sadržaj koji se može provjeriti kako bi se održalo povjerenje potrošača.
• Porast psiholoških učinaka zbog širenja realističnog, ali lažnog sadržaja, koji potencijalno utječe na mentalno zdravlje i javnu percepciju.
• Promjene u dinamici međunarodnih odnosa jer deepfakeovi postaju alat u geopolitičkim strategijama, utječući na diplomaciju i globalno povjerenje.

Pitanja za razmatranje

• Kako sintetički mediji utječu na vašu percepciju aktualnih događaja?
• Kako bi razvoj tehnologije deepfake mogao utjecati na ravnotežu između slobode izražavanja i potrebe za regulacijom kako bi se spriječile dezinformacije i zloporabe?