Quantumrun

BILDKREDIT:

iStock

Censur och AI: Algoritmer som kan förstärka och flagga censur

Artificiell intelligens (AI)-systems utvecklande inlärningsförmåga kan vara både en fördel och en avskräckande effekt mot censur.

Författare:
författarnamn
Quantumrun Framsyn
Oktober 31, 2022

Insiktssammanfattning

När det kommer till artificiell intelligens (AI) och censur är många experter oroade över konsekvenserna av sådan teknik när det gäller statlig kontroll. System för artificiell intelligens kan vara sårbara för partiskhet på grund av de data som används för att träna dem. Men vissa organisationer experimenterar också med hur man använder AI för att upptäcka och förhindra censur.

Censur och AI-kontext

Algoritmer, som drivs av AI, blir allt mer påverkade av den data de tränas på. Den här utvecklingen väcker dock oro för det potentiella missbruket av AI-system av regeringar eller organisationer. Ett slående exempel på detta är den kinesiska regeringens användning av AI för att censurera innehåll på sociala medieplattformar som WeChat och Weibo.

Omvänt har utvecklingen av AI-system också mycket lovande i vissa applikationer, såsom innehållsmoderering och korrekt detektering av censurerad information. Sociala medieplattformar ligger i framkant när det gäller att utnyttja AI för att övervaka innehållet som publiceras på deras servrar, särskilt när det gäller att identifiera hatretorik och innehåll som uppmuntrar till våld. Till exempel, 2019, gjorde YouTube ett betydande tillkännagivande om sin avsikt att använda AI för att identifiera videor som innehåller grafiskt våld eller extremistiskt innehåll.

Vidare, i slutet av 2020, rapporterade Facebook att dess AI-algoritmer kunde upptäcka cirka 94.7 procent av det hatretorik som publicerades på plattformen. I detta snabbt föränderliga landskap är det avgörande för både beslutsfattare och allmänheten att hålla sig informerade om den dubbla karaktären av AI:s inverkan på onlineinnehåll. Även om det finns oro för dess potential för censur, erbjuder AI också värdefulla verktyg för att förbättra innehållsmoderering och säkerställa en säkrare onlinemiljö.

Störande inverkan

En studie från 2021 av University of California San Diego undersökte två separata AI-algoritmer för att se hur de fick rubriker som innehåller specifika termer. AI-systemen utvärderade träningsdata från den kinesiska versionen av informationsportalen Wikipedia (kinesiska Wikipedia) och Baidu Baike, ett onlineuppslagsverk.

Studien fann att AI-algoritmen tränad på kinesiska Wikipedia gav fler positiva poäng till rubriker som nämnde termer som "val" och "frihet". Samtidigt gav AI-algoritmen tränad på Baidu Baike mer positiva poäng till rubriker som innehöll fraser som "övervakning" och "social kontroll." Denna avslöjande väckte oro bland många experter om AI:s potential för statlig censur.

Men det har också gjorts studier som undersökt hur AI kan identifiera försök till censur. År 2021 släppte University of Chicagos Data Science Institute och Princeton University planer på att bygga ett realtidsverktyg för att övervaka och upptäcka internetcensur. Projektets slutmål är att tillhandahålla ytterligare övervakningsmöjligheter och instrumentpaneler till dataanvändare – inklusive diplomater, beslutsfattare och icke-vetenskapsmän. Teamet planerar att ha en "väderkarta" i realtid för censur så att observatörer nästan omedelbart kan se Internetstörningar när det händer. Den här funktionen inkluderar de länder och webbplatser eller innehåll som myndigheterna manipulerar.

Implikationer av censur och AI

Vidare implikationer av censur och AI kan inkludera:

Cyberkriminella hackar censurorganisationer för att fånga och manipulera censurerad information.
Ökade investeringar och forskning för verktyg som kan upptäcka censur och annan informationsmanipulation.
Sociala medieplattformar fortsätter att förbättra sina algoritmer för att moderera innehåll. Denna ökande självbevakning kan dock fjärma många användare.
En ökning av samhällets misstro mot regeringstjänstemän och nyhetsmedier.
AI-system fortsätter att användas av vissa nationalstater för att kontrollera lokala medier och nyheter, inklusive att ta bort berättelser som är ogynnsamma för respektive regeringar.
Företag som anpassar sina digitala strategier för att följa olika globala internetregler, vilket leder till mer lokaliserade och segmenterade onlinetjänster.
Konsumenter vänder sig till alternativa, decentraliserade plattformar för att undvika censur, vilket främjar en förändring i sociala mediers dynamik.
Politiker över hela världen brottas med utmaningen att reglera AI i censur utan att kväva yttrandefriheten, vilket leder till olika lagstiftningsstrategier.