Quantumrun

ATTĒLA KREDĪTS:

iStock

Cenzūra un AI: algoritmi, kas var pastiprināt un atzīmēt cenzūru

Mākslīgā intelekta (AI) sistēmu attīstošās mācīšanās iespējas var būt gan ieguvums, gan atturošs no cenzūras.

Autors:
Autors nosaukums
Quantumrun Foresight
Oktobris 31, 2022

Ieskata kopsavilkums

Runājot par mākslīgo intelektu (AI) un cenzūru, daudzi eksperti ir nobažījušies par šādas tehnoloģijas ietekmi uz valdības kontroli. Mākslīgā intelekta sistēmas var būt neaizsargātas pret aizspriedumiem to apmācīšanai izmantoto datu dēļ. Tomēr dažas organizācijas arī eksperimentē ar to, kā izmantot AI, lai atklātu un novērstu cenzūru.

Cenzūra un AI konteksts

Algoritmus, ko darbina AI, arvien vairāk ietekmē dati, par kuriem tie tiek apmācīti. Tomēr šī attīstība rada bažas par iespējamu AI sistēmu ļaunprātīgu izmantošanu, ko veic valdības vai organizācijas. Spilgts piemērs tam ir Ķīnas valdības AI izmantošana, lai cenzētu saturu sociālo mediju platformās, piemēram, WeChat un Weibo.

Un otrādi, mākslīgā intelekta sistēmu attīstībai ir arī liels solījums noteiktās lietojumprogrammās, piemēram, satura regulēšanā un precīzā cenzētās informācijas noteikšanā. Sociālo mediju platformas ir AI izmantošanas priekšgalā, lai uzraudzītu savos serveros publicēto saturu, jo īpaši, ja runa ir par naida runas un satura, kas mudina uz vardarbību, identificēšanu. Piemēram, 2019. gadā YouTube sniedza nozīmīgu paziņojumu par nodomu izmantot mākslīgo intelektu, lai identificētu videoklipus, kuros ir atklāta vardarbība vai ekstrēmistisks saturs.

Turklāt līdz 2020. gada beigām Facebook ziņoja, ka tā AI algoritmi varētu atklāt aptuveni 94.7 procentus platformā publicētās naida runas. Šajā strauji mainīgajā vidē ir ļoti svarīgi, lai gan politikas veidotāji, gan sabiedrība būtu informēti par mākslīgā intelekta divējādo ietekmi uz tiešsaistes saturu. Lai gan pastāv bažas par tā cenzūras potenciālu, AI piedāvā arī vērtīgus rīkus satura regulēšanas uzlabošanai un drošākas tiešsaistes vides nodrošināšanai.

Traucējoša ietekme

Kalifornijas Universitātes Sandjego 2021. gada pētījumā tika pārbaudīti divi atsevišķi mākslīgā intelekta algoritmi, lai noskaidrotu, kā tie ieguva virsrakstus, kuros ir ietverti konkrēti termini. AI sistēmas novērtēja apmācības datus no informācijas portāla Wikipedia (ķīniešu Wikipedia) ķīniešu versijas un tiešsaistes enciklopēdijas Baidu Baike.

Pētījumā konstatēts, ka AI algoritms, kas apmācīts ķīniešu Vikipēdijā, sniedza vairāk pozitīvu rezultātu virsrakstiem, kuros bija minēti tādi termini kā “vēlēšanas” un “brīvība”. Tikmēr Baidu Baike apmācītais AI algoritms sniedza vairāk pozitīvu rezultātu virsrakstiem, kuros bija tādas frāzes kā “uzraudzība” un “sociālā kontrole”. Šī atklāsme izraisīja daudzu ekspertu bažas par AI potenciālu valdības cenzūrai.

Tomēr ir veikti arī pētījumi, kuros pētīts, kā AI var identificēt cenzūras mēģinājumus. 2021. gadā Čikāgas Universitātes Datu zinātnes institūts un Prinstonas universitāte izlaida plānus izveidot reāllaika rīku interneta cenzūras uzraudzībai un noteikšanai. Projekta galvenais mērķis ir nodrošināt papildu uzraudzības iespējas un informācijas paneļus datu lietotājiem, tostarp diplomātiem, politikas veidotājiem un nezinātniekiem. Komanda plāno izveidot reāllaika "laika laika karti" cenzūrai, lai novērotāji gandrīz nekavējoties varētu redzēt interneta traucējumus, kad tie notiek. Šī funkcija ietvertu valstis un vietnes vai saturu, ar ko manipulē valdības.

Cenzūras un AI sekas

Cenzūras un AI plašākas sekas var ietvert:

Kibernoziedznieki uzlauž cenzūras organizācijas, lai iegūtu un manipulētu ar cenzētu informāciju.
Palielināti ieguldījumi un pētījumi par rīkiem, kas var atklāt cenzūru un citas informācijas manipulācijas.
Sociālo mediju platformas turpina pilnveidot savus algoritmus satura regulēšanai. Tomēr šī pieaugošā paškontrole var atsvešināt daudzus lietotājus.
Pieaug sabiedrības neuzticēšanās valdības amatpersonām un ziņu medijiem.
Dažas valstis turpina izmantot mākslīgā intelekta sistēmas, lai kontrolētu vietējos plašsaziņas līdzekļus un ziņas, tostarp likvidētu attiecīgajām valdībām nelabvēlīgus stāstus.
Uzņēmumi, kas pielāgo savas digitālās stratēģijas, lai atbilstu dažādiem globālajiem interneta noteikumiem, tādējādi radot lokālākus un segmentētākus tiešsaistes pakalpojumus.
Patērētāji pievēršas alternatīvām, decentralizētām platformām, lai izvairītos no cenzūras, veicinot sociālo mediju dinamikas maiņu.
Politikas veidotāji visā pasaulē cīnās ar izaicinājumu regulēt AI cenzūras ietvaros, neierobežojot vārda brīvību, kā rezultātā tiek izstrādātas dažādas likumdošanas pieejas.