Censura e intelligenza artificiale: algoritmi che possono rafforzare e segnalare la censura

• Autore:
• Nome dell'autore

  Preveggenza quantistica
• Ottobre 31, 2022

Riepilogo approfondimenti

Quando si parla di intelligenza artificiale (AI) e censura, molti esperti sono preoccupati per le implicazioni di tale tecnologia sul controllo governativo. I sistemi di intelligenza artificiale possono essere vulnerabili ai bias a causa dei dati utilizzati per addestrarli. Tuttavia, alcune organizzazioni stanno anche sperimentando come utilizzare l’intelligenza artificiale per rilevare e prevenire la censura.

Censura e contesto dell'IA

Gli algoritmi, alimentati dall’intelligenza artificiale, sono sempre più influenzati dai dati su cui vengono addestrati. Tuttavia, questo sviluppo solleva preoccupazioni circa il potenziale uso improprio dei sistemi di intelligenza artificiale da parte di governi o organizzazioni. Un esempio lampante di ciò è l’uso dell’intelligenza artificiale da parte del governo cinese per censurare i contenuti su piattaforme di social media come WeChat e Weibo. 

Al contrario, l’evoluzione dei sistemi di intelligenza artificiale è molto promettente anche in alcune applicazioni, come la moderazione dei contenuti e il rilevamento accurato delle informazioni censurate. Le piattaforme di social media sono in prima linea nello sfruttare l’intelligenza artificiale per monitorare i contenuti pubblicati sui loro server, in particolare quando si tratta di identificare discorsi di odio e contenuti che incitano alla violenza. Ad esempio, nel 2019, YouTube ha fatto un annuncio significativo sulla sua intenzione di utilizzare l’intelligenza artificiale per identificare video contenenti violenza esplicita o contenuti estremisti.

Inoltre, entro la fine del 2020, Facebook ha riferito che i suoi algoritmi di intelligenza artificiale erano in grado di rilevare circa il 94.7% dei discorsi di incitamento all’odio pubblicati sulla piattaforma. In questo panorama in rapida evoluzione, è fondamentale che sia i politici che il pubblico rimangano informati sulla duplice natura dell’impatto dell’IA sui contenuti online. Sebbene vi siano preoccupazioni riguardo al suo potenziale di censura, l’intelligenza artificiale offre anche strumenti preziosi per migliorare la moderazione dei contenuti e garantire un ambiente online più sicuro. 

Impatto dirompente

Uno studio del 2021 dell'Università della California di San Diego ha esaminato due algoritmi di intelligenza artificiale separati per vedere come hanno segnato titoli contenenti termini specifici. I sistemi di intelligenza artificiale hanno valutato i dati di allenamento dalla versione cinese del portale di informazioni Wikipedia (Wikipedia cinese) e Baidu Baike, un'enciclopedia online. 

Lo studio ha rilevato che l'algoritmo di intelligenza artificiale addestrato su Wikipedia cinese ha fornito punteggi più positivi ai titoli che menzionavano termini come "elezioni" e "libertà". Nel frattempo, l'algoritmo di intelligenza artificiale addestrato su Baidu Baike ha assegnato punteggi più positivi a titoli contenenti frasi come "sorveglianza" e "controllo sociale". Questa rivelazione ha suscitato preoccupazione tra molti esperti sul potenziale dell'IA per la censura del governo. 

Tuttavia, ci sono stati anche studi che hanno esaminato come l'IA può identificare i tentativi di censura. Nel 2021, il Data Science Institute dell'Università di Chicago e la Princeton University hanno pubblicato piani per creare uno strumento in tempo reale per monitorare e rilevare la censura di Internet. L'obiettivo finale del progetto è fornire ulteriori funzionalità di monitoraggio e dashboard agli utenti dei dati, inclusi diplomatici, responsabili politici e non scienziati. Il team prevede di disporre di una "mappa meteorologica" in tempo reale per la censura in modo che gli osservatori possano vedere quasi immediatamente l'interferenza di Internet mentre accade. Questa funzione includerebbe i paesi e i siti o i contenuti che i governi stanno manipolando.

Implicazioni della censura e dell'IA

Implicazioni più ampie della censura e dell'IA possono includere: 

• I criminali informatici hackerano le organizzazioni di censura per acquisire e manipolare informazioni censurate. 
• Maggiori investimenti e ricerca di strumenti in grado di rilevare la censura e altre manipolazioni delle informazioni.
• Le piattaforme di social media continuano a perfezionare i loro algoritmi per moderare i contenuti. Tuttavia, questo crescente autocontrollo può alienare molti utenti.
• Un aumento della sfiducia della comunità nei confronti dei funzionari governativi e dei media.
• I sistemi di intelligenza artificiale continuano ad essere utilizzati da alcuni stati-nazione per controllare i media e le notizie locali, inclusa la rimozione di storie sfavorevoli ai rispettivi governi.
• Le aziende adattano le proprie strategie digitali per conformarsi alle diverse normative Internet globali, portando a servizi online più localizzati e segmentati.
• I consumatori si rivolgono a piattaforme alternative e decentralizzate per evitare la censura, favorendo un cambiamento nelle dinamiche dei social media.
• I politici di tutto il mondo sono alle prese con la sfida di regolamentare l’intelligenza artificiale tramite censura senza soffocare la libertà di parola, il che porta a vari approcci legislativi.

Domande da considerare

• In quale altro modo l'IA può essere utilizzata per promuovere o prevenire la censura?
• In che modo l'aumento della censura dell'IA potrebbe diffondere ulteriormente la disinformazione?