Cenzura i veštačka inteligencija: Algoritmi koji mogu ponovo da nametnu i obeleže cenzuru

• Autor:
• Ime autora

  Quantumrun Foresight
• Oktobar 31, 2022

Sažetak uvida

Kada je riječ o umjetnoj inteligenciji (AI) i cenzuri, mnogi stručnjaci su zabrinuti zbog implikacija takve tehnologije na kontrolu vlade. Sistemi umjetne inteligencije mogu biti osjetljivi na pristrasnost zbog podataka koji se koriste za njihovu obuku. Međutim, neke organizacije takođe eksperimentišu kako da koriste veštačku inteligenciju za otkrivanje i sprečavanje cenzure.

Cenzura i AI kontekst

Algoritmi, koje pokreće AI, postaju sve više pod uticajem podataka na kojima su obučeni. Međutim, ovakav razvoj događaja izaziva zabrinutost zbog potencijalne zloupotrebe AI sistema od strane vlada ili organizacija. Upečatljiv primjer za to je upotreba umjetne inteligencije od strane kineske vlade za cenzuru sadržaja na platformama društvenih medija kao što su WeChat i Weibo. 

S druge strane, evolucija AI sistema takođe obećava u određenim aplikacijama, kao što su moderiranje sadržaja i precizno otkrivanje cenzurisanih informacija. Platforme društvenih medija prednjače u korištenju AI za praćenje sadržaja objavljenog na njihovim serverima, posebno kada je u pitanju prepoznavanje govora mržnje i sadržaja koji podstiču nasilje. Na primjer, 2019. godine YouTube je dao značajnu najavu o svojoj namjeri da koristi AI u identifikaciji video zapisa koji sadrže eksplicitno nasilje ili ekstremistički sadržaj.

Osim toga, do kraja 2020. godine, Facebook je izvijestio da njegovi AI algoritmi mogu otkriti otprilike 94.7 posto govora mržnje objavljenog na platformi. U ovom krajoliku koji se brzo razvija, ključno je i za kreatore politike i za javnost da budu informisani o dvostrukoj prirodi uticaja veštačke inteligencije na onlajn sadržaj. Iako postoji zabrinutost oko njegovog potencijala za cenzuru, AI također nudi vrijedne alate za poboljšanje moderiranja sadržaja i osiguravanje sigurnijeg onlajn okruženja. 

Ometajući uticaj

Studija Kalifornijskog univerziteta u San Dijegu iz 2021. godine ispitala je dva odvojena AI algoritma da bi se vidjelo kako su oni ocjenjivali naslove koji sadrže specifične termine. Sistemi veštačke inteligencije procenili su podatke o obuci sa kineske verzije informativnog portala Wikipedia (kineska Wikipedia) i Baidu Baike, onlajn enciklopedije. 

Studija je otkrila da je AI algoritam obučen na kineskoj Wikipediji dao pozitivnije rezultate naslovima koji su spominjali pojmove kao što su "izbori" i "sloboda". U međuvremenu, AI algoritam obučen na Baidu Baikeu dao je pozitivnije ocjene naslovima koji sadrže fraze poput "nadzor" i "društvena kontrola". Ovo otkriće izazvalo je zabrinutost među mnogim stručnjacima o potencijalu AI za vladinu cenzuru. 

Međutim, bilo je i studija koje su se bavile načinom na koji AI može identificirati pokušaje cenzure. Godine 2021. Institut za nauku o podacima Univerziteta u Čikagu i Univerzitet Princeton objavili su planove za izgradnju alata u realnom vremenu za praćenje i otkrivanje internet cenzure. Krajnji cilj projekta je pružiti dodatne mogućnosti praćenja i kontrolne table korisnicima podataka—uključujući diplomate, kreatore politike i nenaučnike. Tim planira da ima "vremensku mapu" u realnom vremenu za cenzuru, tako da posmatrači mogu skoro odmah da vide internet smetnje dok se dešavaju. Ova funkcija bi uključivala zemlje i stranice ili sadržaj kojim vlada manipuliše.

Implikacije cenzure i AI

Šire implikacije cenzure i AI mogu uključivati: 

• Sajber kriminalci hakuju cenzurne organizacije kako bi uhvatili i manipulisali cenzurisanim informacijama. 
• Povećana ulaganja i istraživanja za alate koji mogu otkriti cenzuru i druge manipulacije informacijama.
• Platforme društvenih medija nastavljaju da usavršavaju svoje algoritme za moderiranje sadržaja. Međutim, ovo sve veće samokontrolisanje može udaljiti mnoge korisnike.
• Porast nepovjerenja zajednice prema vladinim zvaničnicima i novinskim medijima.
• Neke nacionalne države i dalje koriste sisteme veštačke inteligencije za kontrolu lokalnih medija i vesti, uključujući uklanjanje priča koje su nepovoljne za odgovarajuće vlade.
• Kompanije prilagođavaju svoje digitalne strategije kako bi bile u skladu s različitim globalnim internet propisima, što dovodi do više lokaliziranih i segmentiranih online usluga.
• Potrošači se okreću alternativnim, decentraliziranim platformama kako bi izbjegli cenzuru, podstičući promjenu u dinamici društvenih medija.
• Kreatori politika širom svijeta bore se s izazovom reguliranja AI u cenzuri bez gušenja slobode govora, što dovodi do različitih zakonodavnih pristupa.

Pitanja koja treba razmotriti

• Kako se drugačije AI može koristiti za promoviranje ili sprječavanje cenzure?
• Kako bi porast cenzure umjetne inteligencije mogao dalje širiti dezinformacije?