Censura è AI: Algoritmi chì ponu rinfurzà è bandiera a censura

• Author:
• Nome di l'autore

  Quantumrun Foresight
• October 31, 2022

Riassuntu insight

Quandu si tratta di intelligenza artificiale (AI) è di censura, assai sperti sò preoccupati di l'implicazioni di tali tecnulugia in quantu à u cuntrollu di u guvernu. I sistemi di intelligenza artificiale ponu esse vulnerabili à preghjudiziu per via di e dati utilizati per furmà. Tuttavia, alcune urganisazioni anu ancu sperimentatu cumu utilizà l'AI per detectà è prevene a censura.

Censura è cuntestu AI

L'algoritmi, alimentati da AI, sò diventati sempre più influenzati da e dati chì sò furmatu. Tuttavia, stu sviluppu suscite preoccupazioni annantu à u putenziale misu di i sistemi AI da i guverni o l'urganisazione. Un esempiu impressiunanti di questu hè l'usu di l'AI da u guvernu cinese per censurà u cuntenutu nantu à e plataforme di e social media cum'è WeChat è Weibo. 

À u cuntrariu, l'evoluzione di i sistemi AI hà ancu una grande prumessa in certe applicazioni, cum'è a moderazione di cuntenutu è a rilevazione precisa di l'infurmazioni censurate. I plataformi di e social media sò in prima linea di sfruttà l'AI per monitorà u cuntenutu publicatu nantu à i so servitori, in particulare quandu si tratta di identificà u discorsu di l'odiu è u cuntenutu chì incitanu a viulenza. Per esempiu, in u 2019, YouTube hà fattu un annunziu significativu annantu à a so intenzione di impiegà AI per identificà video chì cuntenenu viulenza grafica o cuntenutu estremistu.

Inoltre, à a fine di u 2020, Facebook hà dettu chì i so algoritmi AI puderanu detectà circa 94.7 per centu di i discorsu d'odiu publicatu nantu à a piattaforma. In questu paisaghju in rapida evoluzione, hè cruciale per i decisori pulitichi è per u publicu per esse infurmatu nantu à a doppia natura di l'impattu di l'IA nantu à u cuntenutu in linea. Mentre ci sò preoccupazioni per u so potenziale per a censura, l'AI offre ancu strumenti preziosi per rinfurzà a moderazione di u cuntenutu è assicurà un ambiente in linea più sicuru. 

Impact disruptive

Un studiu 2021 da l'Università di California San Diego hà esaminatu dui algoritmi AI separati per vede cumu anu puntuatu i tituli chì cuntenenu termini specifichi. I sistemi AI valutanu i dati di furmazione da a versione cinese di u portale d'infurmazioni Wikipedia (Wikipedia cinese) è Baidu Baike, una enciclopedia in linea. 

U studiu hà scupertu chì l'algoritmu AI furmatu nantu à a Wikipedia cinese hà datu puntuazioni più pusitive à i tituli chì citavanu termini cum'è "elezzione" è "libertà". Intantu, l'algoritmu AI furmatu nantu à Baidu Baike hà datu puntuazioni più pusitive à i tituli chì cuntenenu frasi cum'è "surveglianza" è "cuntrollu suciale". Questa rivelazione hà suscitatu preoccupazione trà parechji esperti nantu à u putenziale di l'AI per a censura di u guvernu. 

Tuttavia, ci sò ancu studii chì anu studiatu cumu l'AI pò identificà i tentativi di censura. In u 2021, l'Istitutu di Scienza di Dati di l'Università di Chicago è l'Università di Princeton anu publicatu piani per custruisce un strumentu in tempu reale per monitorizà è detectà a censura di Internet. U scopu ultimu di u prugettu hè di furnisce capacità di monitoraghju supplementari è dashboards à l'utilizatori di dati, cumpresi i diplomati, i pulitici è i non-scientisti. A squadra pensa à avè una "mappa di u clima" in tempu reale per a censura in modu chì l'osservatori ponu quasi immediatamente vede l'interferenza in Internet cum'è succede. Questa funzione includeria i paesi è i siti o i guverni di cuntenutu chì manipulanu.

Implicazioni di a censura è l'IA

Implicazioni più larghe di a censura è l'IA ponu include: 

• I cibercriminali pirate l'urganisazioni di censura per catturà è manipulà l'infurmazioni censurate. 
• Incrementa l'investimenti è a ricerca per e strumenti chì ponu detectà a censura è altre manipulazione di l'infurmazioni.
• I plataformi di e social media cuntinueghjanu à perfeccionà i so algoritmi per moderate u cuntenutu. Tuttavia, sta crescita di l'autopulizia pò alienà parechji utilizatori.
• Un aumentu di a sfiducia di a cumunità di i funzionari di u guvernu è di i media.
• Sistemi AI cuntinueghjanu à esse aduprati da alcuni stati-nazioni per cuntrullà i media è e nutizie lucali, cumprese a rimozione di storie sfavorevoli per i rispettivi guverni.
• L'imprese adattanu e so strategie digitali per rispettà e diverse regulazioni mundiali di l'internet, chì portanu à servizii in linea più localizzati è segmentati.
• I cunsumatori si rivolgenu à e plataforme alternative, decentralizate per evità a censura, favurendu un cambiamentu in a dinamica di e social media.
• I decisori di u mondu sanu à affruntà a sfida di regulà l'IA in a censura senza soffocà a libertà di parola, purtendu à approcci legislativi variati.

Dumande da cunsiderà

• Cumu altrimenti l'AI pò esse aduprata per prumove o prevene a censura?
• Cumu puderia l'ascesa di a censura di l'AI divulgà ancu a misinformazione?