Censorship at AI: Mga algorithm na maaaring muling ipatupad at i-flag ang censorship

• May-akda:
• pangalan Author

  Quantumrun Foresight
• Oktubre 31, 2022

Buod ng pananaw

Pagdating sa artificial intelligence (AI) at censorship, maraming eksperto ang nababahala tungkol sa mga implikasyon ng naturang teknolohiya patungkol sa kontrol ng gobyerno. Maaaring mahina sa bias ang mga artificial intelligence system dahil sa data na ginamit upang sanayin ang mga ito. Gayunpaman, nag-eeksperimento rin ang ilang organisasyon kung paano gamitin ang AI para matukoy at maiwasan ang censorship.

Censorship at konteksto ng AI

Ang mga algorithm, na pinapagana ng AI, ay lalong naimpluwensyahan ng data kung saan sila sinanay. Gayunpaman, ang pag-unlad na ito ay nagpapataas ng mga alalahanin tungkol sa potensyal na maling paggamit ng mga AI system ng mga pamahalaan o organisasyon. Ang isang kapansin-pansing halimbawa nito ay ang paggamit ng pamahalaan ng China ng AI upang i-censor ang nilalaman sa mga platform ng social media tulad ng WeChat at Weibo. 

Sa kabaligtaran, ang ebolusyon ng mga AI system ay may malaking pangako din sa ilang partikular na application, tulad ng pagmo-moderate ng nilalaman at ang tumpak na pagtuklas ng na-censor na impormasyon. Ang mga platform ng social media ay nangunguna sa paggamit ng AI upang subaybayan ang nilalamang naka-post sa kanilang mga server, lalo na pagdating sa pagtukoy ng mapoot na salita at nilalaman na nag-uudyok ng karahasan. Halimbawa, noong 2019, gumawa ang YouTube ng makabuluhang anunsyo tungkol sa intensyon nitong gamitin ang AI sa pagtukoy ng mga video na naglalaman ng graphic na karahasan o extremist na content.

Higit pa rito, sa pagtatapos ng 2020, iniulat ng Facebook na ang mga AI algorithm nito ay maaaring makakita ng humigit-kumulang 94.7 porsyento ng mapoot na salita na nai-post sa platform. Sa mabilis na umuusbong na landscape na ito, napakahalaga para sa parehong mga gumagawa ng patakaran at sa publiko na manatiling may kaalaman tungkol sa dalawahang katangian ng epekto ng AI sa online na nilalaman. Bagama't may mga alalahanin tungkol sa potensyal nito para sa censorship, nag-aalok din ang AI ng mahahalagang tool para sa pagpapahusay ng content moderation at pagtiyak ng mas ligtas na online na kapaligiran. 

Nakakagambalang epekto

Sinuri ng isang pag-aaral noong 2021 ng University of California San Diego ang dalawang magkahiwalay na AI algorithm upang makita kung paano sila nakakuha ng mga headline na naglalaman ng mga partikular na termino. Sinuri ng mga AI system ang data ng pagsasanay mula sa Chinese na bersyon ng portal ng impormasyon na Wikipedia (Chinese Wikipedia) at Baidu Baike, isang online na encyclopedia. 

Nalaman ng pag-aaral na ang AI algorithm na sinanay sa Chinese Wikipedia ay naghatid ng mas maraming positibong marka sa mga headline na nagbanggit ng mga termino tulad ng "election" at "freedom." Samantala, ang AI algorithm na sinanay sa Baidu Baike ay nagbigay ng mas maraming positibong marka sa mga headline na naglalaman ng mga parirala tulad ng "pagsubaybay" at "pagkontrol sa lipunan." Ang paghahayag na ito ay nagdulot ng pag-aalala sa maraming eksperto tungkol sa potensyal ng AI para sa censorship ng pamahalaan. 

Gayunpaman, mayroon ding mga pag-aaral na tumitingin sa kung paano matutukoy ng AI ang mga pagtatangka sa censorship. Noong 2021, naglabas ang University of Chicago's Data Science Institute at Princeton University ng mga planong bumuo ng real-time na tool para masubaybayan at matukoy ang censorship sa Internet. Ang pinakalayunin ng proyekto ay magbigay ng karagdagang kakayahan sa pagsubaybay at mga dashboard sa mga user ng data—kabilang ang mga diplomat, gumagawa ng patakaran, at hindi siyentipiko. Plano ng koponan na magkaroon ng real-time na "mapa ng panahon" para sa censorship upang halos agad na makita ng mga tagamasid ang interference sa Internet habang nangyayari ito. Kasama sa feature na ito ang mga bansa at site o content na minamanipula ng mga pamahalaan.

Mga implikasyon ng censorship at AI

Maaaring kabilang sa mas malawak na implikasyon ng censorship at AI ang: 

• Hina-hack ng mga cybercriminal ang mga organisasyon ng censorship upang makuha at manipulahin ang na-censor na impormasyon. 
• Mas mataas na pamumuhunan at pananaliksik para sa mga tool na maaaring makakita ng censorship at iba pang pagmamanipula ng impormasyon.
• Ang mga platform ng social media ay patuloy na ginagawang perpekto ang kanilang mga algorithm sa katamtamang nilalaman. Gayunpaman, ang pagtaas ng self-policing na ito ay maaaring mapalayo sa maraming gumagamit.
• Ang pagtaas ng kawalan ng tiwala ng komunidad sa mga opisyal ng gobyerno at mga news media outlet.
• Ang mga AI system ay patuloy na ginagamit ng ilang nation-state para kontrolin ang lokal na media at balita, kabilang ang pag-alis ng mga kwentong hindi pabor sa kani-kanilang pamahalaan.
• Iniangkop ng mga negosyo ang kanilang mga digital na diskarte upang sumunod sa magkakaibang mga pandaigdigang regulasyon sa internet, na humahantong sa mas naka-localize at naka-segment na mga online na serbisyo.
• Ang mga mamimili ay bumaling sa alternatibong, desentralisadong mga platform upang maiwasan ang censorship, na nagsusulong ng pagbabago sa dynamics ng social media.
• Ang mga gumagawa ng patakaran sa buong mundo ay nakikipagbuno sa hamon ng pag-regulate ng AI sa censorship nang hindi pinipigilan ang malayang pananalita, na humahantong sa iba't ibang paraan ng pambatasan.

Mga katanungang dapat isaalang-alang

• Paano pa magagamit ang AI upang i-promote o maiwasan ang censorship?
• Paano maaaring higit pang magpakalat ng maling impormasyon ang pagtaas ng censorship ng AI?