Kuantumrun

KREDIT GAMBAR:

iStock

Sensor lan AI: Algoritma sing bisa ngetrapake maneh lan menehi tandha censorship

Kapabilitas sinau sistem Artificial Intelligence (AI) sing berkembang bisa dadi mupangat lan nyegah censorship.

Babagan Author:
Jeneng panganggit
Quantumrun Foresight
Oktober 31, 2022

Ringkesan wawasan

Nalika nerangake intelijen buatan (AI) lan sensor, akeh ahli prihatin babagan implikasi teknologi kasebut babagan kontrol pemerintah. Sistem intelijen buatan bisa uga rentan kanggo bias amarga data sing digunakake kanggo nglatih. Nanging, sawetara organisasi uga nyoba nggunakake AI kanggo ndeteksi lan nyegah sensor.

Censorship lan konteks AI

Algoritma, didhukung dening AI, saya akeh dipengaruhi dening data sing dilatih. Nanging, pangembangan iki nuwuhake kuwatir babagan potensial penyalahgunaan sistem AI dening pamrentah utawa organisasi. Conto sing nggumunake yaiku panggunaan AI pamrentah China kanggo nyensor konten ing platform media sosial kayata WeChat lan Weibo.

Kosok baline, evolusi sistem AI uga nduweni janji gedhe ing aplikasi tartamtu, kayata moderasi konten lan deteksi akurat informasi sing disensor. Platform media sosial ana ing ngarep nggunakake AI kanggo ngawasi konten sing dikirim ing server, utamane nalika nerangake ujaran sengit lan konten sing nyebabake kekerasan. Contone, ing taun 2019, YouTube nggawe woro-woro penting babagan tujuane nggunakake AI kanggo ngenali video sing ngemot kekerasan grafis utawa konten ekstremis.

Salajengipun, ing pungkasan taun 2020, Facebook nglaporake manawa algoritma AI bisa ndeteksi kira-kira 94.7 persen ujaran sengit sing dikirim ing platform kasebut. Ing lanskap sing berkembang kanthi cepet iki, penting banget kanggo para pembuat kabijakan lan masarakat supaya tetep ngerti babagan sifat ganda saka pengaruh AI ing konten online. Nalika ana keprihatinan babagan potensial kanggo sensor, AI uga nawakake alat sing migunani kanggo nambah moderasi konten lan njamin lingkungan online sing luwih aman.

Dampak gangguan

Panaliten taun 2021 dening Universitas California San Diego nliti rong algoritma AI sing kapisah kanggo ndeleng kepiye nggawe judhul berita sing ngemot istilah tartamtu. Sistem AI ngevaluasi data latihan saka versi Cina saka portal informasi Wikipedia (Wikipedia Cina) lan Baidu Baike, sawijining ensiklopedia online.

Panliten kasebut nemokake yen algoritma AI sing dilatih ing Wikipedia Cina ngasilake skor sing luwih positif kanggo berita utama sing nyebutake istilah kaya "pemilihan" lan "kebebasan." Sementara, algoritma AI sing dilatih ing Baidu Baike menehi skor sing luwih positif kanggo judhul sing ngemot frasa kaya "pengawasan" lan "kontrol sosial." Wahyu iki nyebabake keprihatinan ing antarane akeh ahli babagan potensial AI kanggo sensor pemerintah.

Nanging, ana uga panaliten sing nyinaoni kepiye AI bisa ngenali upaya censorship. Ing taun 2021, Institut Ilmu Data Universitas Chicago lan Universitas Princeton ngrilis rencana kanggo mbangun alat wektu nyata kanggo ngawasi lan ndeteksi sensor Internet. Tujuan utama proyek kasebut yaiku nyedhiyakake kemampuan pemantauan lan dasbor tambahan kanggo pangguna data-kalebu diplomat, pembuat kebijakan, lan non-ilmuwan. Tim kasebut ngrancang duwe "peta cuaca" wektu nyata kanggo censorship supaya para pengamat bisa langsung ndeleng gangguan Internet nalika kedadeyan kasebut. Fitur iki kalebu negara lan situs utawa pamrentah konten sing dimanipulasi.

Implikasi saka censorship lan AI

Implikasi censorship lan AI sing luwih akeh bisa uga kalebu:

Penjahat siber hacking organisasi penyensoran kanggo njupuk lan ngapusi informasi sing disensor.
Tambah investasi lan riset kanggo alat sing bisa ndeteksi sensor lan manipulasi informasi liyane.
Platform media sosial terus nyempurnakake algoritma kanggo konten moderat. Nanging, polisi mandhiri sing saya tambah iki bisa ngasingake akeh pangguna.
Mundhak rasa ora percaya masyarakat marang pejabat pemerintah lan media warta.
Sistem AI terus digunakake dening sawetara negara kanggo ngontrol media lan warta lokal, kalebu mbusak crita sing ora cocog karo pamrentah.
Bisnis adaptasi strategi digital kanggo tundhuk karo macem-macem peraturan internet global, ndadékaké menyang layanan online luwih lokal lan segmented.
Konsumen pindhah menyang alternatif, platform desentralisasi supaya ora censorship, nuwuhake owah-owahan ing dinamika media sosial.
Pembuat kabijakan ing saindenging jagad nandhang tantangan kanggo ngatur AI ing sensor tanpa ngganggu kebebasan wicara, sing nyebabake macem-macem pendekatan legislatif.