Penapisan dan AI: Algoritma yang boleh menguatkuasakan semula dan menandai penapisan

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• Oktober 31, 2022

Ringkasan cerapan

Apabila ia berkaitan dengan kecerdasan buatan (AI) dan penapisan, ramai pakar bimbang tentang implikasi teknologi sedemikian mengenai kawalan kerajaan. Sistem kecerdasan buatan mungkin terdedah kepada berat sebelah disebabkan oleh data yang digunakan untuk melatih mereka. Walau bagaimanapun, sesetengah organisasi juga sedang bereksperimen dengan cara menggunakan AI untuk mengesan dan mencegah penapisan.

Penapisan dan konteks AI

Algoritma, dikuasakan oleh AI, semakin dipengaruhi oleh data yang mereka latih. Walau bagaimanapun, perkembangan ini menimbulkan kebimbangan tentang kemungkinan penyalahgunaan sistem AI oleh kerajaan atau organisasi. Contoh yang ketara ialah penggunaan AI oleh kerajaan China untuk menapis kandungan pada platform media sosial seperti WeChat dan Weibo. 

Sebaliknya, evolusi sistem AI juga memegang janji besar dalam aplikasi tertentu, seperti penyederhanaan kandungan dan pengesanan tepat maklumat yang ditapis. Platform media sosial berada di barisan hadapan dalam memanfaatkan AI untuk memantau kandungan yang disiarkan pada pelayan mereka, terutamanya apabila ia berkaitan dengan mengenal pasti ucapan benci dan kandungan yang menghasut keganasan. Sebagai contoh, pada tahun 2019, YouTube membuat pengumuman penting tentang hasratnya untuk menggunakan AI dalam mengenal pasti video yang mengandungi keganasan grafik atau kandungan pelampau.

Tambahan pula, menjelang akhir tahun 2020, Facebook melaporkan bahawa algoritma AInya dapat mengesan kira-kira 94.7 peratus ucapan benci yang disiarkan di platform. Dalam landskap yang berkembang pesat ini, adalah penting bagi kedua-dua penggubal dasar dan orang ramai untuk kekal dimaklumkan tentang sifat dwi kesan AI pada kandungan dalam talian. Walaupun terdapat kebimbangan mengenai potensinya untuk penapisan, AI juga menawarkan alat berharga untuk meningkatkan penyederhanaan kandungan dan memastikan persekitaran dalam talian yang lebih selamat. 

Kesan yang mengganggu

Kajian 2021 oleh University of California San Diego meneliti dua algoritma AI yang berasingan untuk melihat cara mereka menjaringkan tajuk berita yang mengandungi istilah khusus. Sistem AI menilai data latihan daripada versi Cina portal maklumat Wikipedia (Wikipedia Cina) dan Baidu Baike, sebuah ensiklopedia dalam talian. 

Kajian mendapati bahawa algoritma AI yang dilatih di Wikipedia Bahasa Cina memberikan lebih banyak skor positif kepada tajuk berita yang menyebut istilah seperti "pilihan raya" dan "kebebasan." Sementara itu, algoritma AI yang dilatih pada Baidu Baike memberikan skor yang lebih positif kepada tajuk berita yang mengandungi frasa seperti "pengawasan" dan "kawalan sosial." Pendedahan ini mencetuskan kebimbangan di kalangan ramai pakar tentang potensi AI untuk penapisan kerajaan. 

Walau bagaimanapun, terdapat juga kajian yang mengkaji bagaimana AI boleh mengenal pasti percubaan pada penapisan. Pada tahun 2021, Institut Sains Data Universiti Chicago dan Universiti Princeton mengeluarkan rancangan untuk membina alat masa nyata untuk memantau dan mengesan penapisan Internet. Matlamat utama projek ini adalah untuk menyediakan keupayaan pemantauan dan papan pemuka tambahan kepada pengguna data—termasuk diplomat, penggubal dasar dan bukan saintis. Pasukan itu merancang untuk mempunyai "peta cuaca" masa nyata untuk penapisan supaya pemerhati dapat melihat dengan segera gangguan Internet semasa ia berlaku. Ciri ini termasuk negara dan tapak atau kandungan yang dimanipulasi oleh kerajaan.

Implikasi penapisan dan AI

Implikasi penapisan dan AI yang lebih luas mungkin termasuk: 

• Penjenayah siber menggodam organisasi penapisan untuk menangkap dan memanipulasi maklumat yang ditapis. 
• Peningkatan pelaburan dan penyelidikan untuk alat yang boleh mengesan penapisan dan manipulasi maklumat lain.
• Platform media sosial terus menyempurnakan algoritma mereka kepada menyederhanakan kandungan. Walau bagaimanapun, kepolisan diri yang semakin meningkat ini boleh mengasingkan ramai pengguna.
• Peningkatan ketidakpercayaan masyarakat terhadap pegawai kerajaan dan media berita.
• Sistem AI terus digunakan oleh beberapa negara bangsa untuk mengawal media dan berita tempatan, termasuk mengalih keluar cerita yang tidak menguntungkan kerajaan masing-masing.
• Perniagaan menyesuaikan strategi digital mereka untuk mematuhi peraturan internet global yang pelbagai, yang membawa kepada perkhidmatan dalam talian yang lebih setempat dan tersegmen.
• Pengguna beralih kepada alternatif, platform terdesentralisasi untuk mengelakkan penapisan, memupuk anjakan dalam dinamik media sosial.
• Pembuat dasar di seluruh dunia bergelut dengan cabaran mengawal selia AI dalam penapisan tanpa menyekat kebebasan bersuara, yang membawa kepada pelbagai pendekatan perundangan.

Soalan yang perlu dipertimbangkan

• Bagaimana lagi AI boleh digunakan untuk mempromosikan atau mencegah penapisan?
• Bagaimanakah peningkatan penapisan AI boleh menyebarkan maklumat yang salah?