Sintētisko mediju meli: redzēt vairs nav ticēt

• Autors:
• Autors nosaukums

  Quantumrun Foresight
• Februāris 22, 2024

Ieskata kopsavilkums

Sintētiskie mediji, kas apvieno mākslīgo intelektu (AI) ar video, audio un vizuālajiem elementiem, ir tik reālistiski, ka to ir grūti atšķirt no faktiskajiem medijiem. Tā izstrāde aizsākās gadu desmitiem senā pagātnē, un tās attīstībā galveno lomu spēlē dziļa mācīšanās (DL) un ģeneratīvie pretrunīgie tīkli (GAN). Attīstoties šai tehnoloģijai, tā piedāvā radošas iespējas un ievērojamas privātuma, ētikas un dezinformācijas problēmas.

Sintētisko mediju nepatiesības konteksts

Sintētiskie mediji ir AI radīta satura revolucionāra kombinācija, kas ietver tiešraides video, vizuālos elementus un audio progresīvā tehnoloģiskā ietvarā. Šo mediju formu raksturo tās izcilais reālisms un ieskaujošās īpašības, kas padara to gandrīz neatšķiramu no reālās pasaules medijiem. Sintētisko datu nesēju radīšanu var izsekot 1950. gadsimta 1980. gados, un 1990. gadu beigās un XNUMX. gadu sākumā notika ievērojama evolūcija, pieaugot skaitļošanas jaudai. 

Padziļinātā mācīšanās ir galvenā tehnoloģija, kas virza sintētiskos medijus, kas ir sarežģīta mašīnmācības (ML) nozare. Īpaši ietekmīgi šajā jomā ir GAN, kas ir radījuši apvērsumu šajā jomā, mācoties no esošajiem attēliem, lai radītu pilnīgi jaunus, taču neticami autentiskus attēlus. GAN darbojas, izmantojot divu neironu tīklu sistēmu: viens tīkls ģenerē viltotus attēlus, pamatojoties uz reāliem attēliem, bet otrs novērtē to autentiskumu, nospiežot datora redzamības un attēlu apstrādes iespējas.

Tā kā mākslīgais intelekts turpina strauji attīstīties, sintētisko datu nesēju pielietojums un ietekme kļūst arvien nozīmīgāka. Lai gan šie tehnoloģiskie sasniegumi paver durvis inovācijām dažādās nozarēs, tostarp videospēlēs, autonomajos transportlīdzekļos un sejas atpazīšanas jomā, tie vienlaikus rada nopietnas bažas par privātumu un ētiku. Tādējādi sintētisko mediju nākotne ir abpusēji griezīgs zobens, piedāvājot plašu jaunrades un inovācijas potenciālu, vienlaikus izaicinot mūs risināt tā ētiskās un ar privātumu saistītās sekas.

Traucējoša ietekme

Bezpeļņas korporācijas Rand Corporation veiktais pētījums 2022. gadā apspriež četrus galvenos sintētisko plašsaziņas līdzekļu riskus: manipulācijas ar vēlēšanām, izmantojot izdomātus kandidātu videoklipus, sabiedrības šķelšanās pastiprināšanu, pastiprinot propagandu un partizānu saturu, uzticības mazināšana institūcijām, izmantojot viltotus autoritātes pārstāvju attēlojumus, un žurnālistikas graušana, radot šaubas par likumīgu ziņu autentiskumu. Šie viltotie viltojumi var būt īpaši kaitīgi jaunattīstības valstīs, kur dominē zemāks izglītības līmenis, trauslas demokrātijas un starpetniskie konflikti. Dezinformācija jau ir nopietna problēma šajos reģionos, un dziļi viltojumi var saasināt strīdus un vardarbību, kā tas ir redzams iepriekšējos incidentos tādās valstīs kā Mjanma, Indija un Etiopija. Turklāt ierobežotie resursi, kas piešķirti satura moderēšanai ārpus ASV, īpaši tādās platformās kā WhatsApp, palielina risku, ka šajās jomās netiks atklāti dziļi viltojumi.

Dziļās viltojumi arī rada unikālus draudus sievietēm, ņemot vērā dzimumu atšķirības pornogrāfiskā saturā. AI ģenerētie mediji ir izmantoti, lai bez piekrišanas radītu dziļu viltus pornogrāfiju, izraisot ļaunprātīgu izmantošanu un ekspluatāciju. Šīs tehnoloģijas var arī radīt drošības riskus, vēršoties pret izlūkdienestu darbiniekiem, politiskajiem kandidātiem, žurnālistiem un vadītājiem, lai apmulsinātu vai manipulētu. Vēsturiski piemēri, piemēram, Krievijas atbalstītā dezinformācijas kampaņa pret Ukrainas parlamentārieti Svitlanu Zaļiščuku, liecina par šādu uzbrukumu iespējamību.

Zinātnieku kopienas izpratne par dziļo viltojumu ietekmi uz sabiedrību joprojām attīstās, un pētījumi piedāvā dažādus rezultātus par lietotāju spējām noteikt šos videoklipus un to ietekmi. Daži pētījumi liecina, ka cilvēki var labāk atklāt viltojumus nekā mašīnas, tomēr šie videoklipi bieži tiek uzskatīti par spilgtiem, pārliecinošiem un ticamiem, tādējādi palielinot to izplatīšanās iespējamību sociālajos medijos. Tomēr viltotu videoklipu ietekme uz uzskatiem un uzvedību var būt mazāka, nekā paredzēts, norādot, ka bažas par to pārliecināšanu varētu būt pāragras. 

Sintētisko mediju nepatiesības sekas

Sintētisko datu nesēju viltus plašākas sekas var ietvert: 

• Uzlabotas digitālā satura autentifikācijas metodes, kas rada sarežģītākas metodes multivides autentiskuma pārbaudei.
• Palielināts pieprasījums pēc digitālās pratības izglītības skolās, nodrošinot nākamajām paaudzēm prasmes kritiski analizēt medijus.
• Izmaiņas žurnālistikas standartos, pieprasot stingrākus multivides satura pārbaudes procesus, lai saglabātu uzticamību.
• Tiesiskā regulējuma paplašināšana attiecībā uz digitālā satura manipulācijām, piedāvājot labāku aizsardzību pret dezinformāciju.
• Palielināti personas privātuma riski, kas saistīti ar iespējamu sejas atpazīšanas un personas datu ļaunprātīgu izmantošanu dziļo viltojumu veidošanā.
• Jaunu tirgus nozaru attīstība, kas specializējas dziļo viltojumu atklāšanā un novēršanā, radot darba iespējas un tehnoloģiskos sasniegumus.
• Politiskās kampaņas, kurās tiek pieņemta stingrāka mediju uzraudzības prakse, lai mazinātu viltus satura ietekmi uz vēlēšanām.
• Izmaiņas reklāmas un mārketinga stratēģijās, lielāku uzsvaru liekot uz autentiskumu un pārbaudāmu saturu, lai saglabātu patērētāju uzticību.
• Psiholoģiskās ietekmes pieaugums reālistiska, bet nepatiesa satura izplatības dēļ, kas var ietekmēt garīgo veselību un sabiedrības uztveri.
• Izmaiņas starptautisko attiecību dinamikā, jo dziļi viltojumi kļūst par ģeopolitisko stratēģiju instrumentu, kas ietekmē diplomātiju un globālo uzticību.

Jautājumi, kas jāapsver

• Kā sintētiskie mediji ietekmē jūsu uztveri par aktuālajiem notikumiem?
• Kā dziļo viltojumu tehnoloģiju attīstība varētu ietekmēt līdzsvaru starp vārda brīvību un nepieciešamību pēc regulējuma, lai novērstu dezinformāciju un ļaunprātīgu izmantošanu?