سينسرشپ ۽ AI: الگورتھم جيڪي ٻيهر لاڳو ڪري سگھن ٿا ۽ سينسرشپ کي پرچم ڪري سگھن ٿا

• الاهي:
• ليکڪ جو نالو

  Quantumrun اڳڪٿي
• آڪٽوبر 31، 2022

بصيرت جو خلاصو

جڏهن اها مصنوعي ذهانت (AI) ۽ سينسرشپ تي اچي ٿي، ڪيترائي ماهر حڪومتي ڪنٽرول جي حوالي سان اهڙي ٽيڪنالاجي جي اثرن بابت پريشان آهن. مصنوعي انٽيليجنس سسٽم انهن کي تربيت ڏيڻ لاءِ استعمال ٿيندڙ ڊيٽا جي ڪري تعصب جو شڪار ٿي سگهن ٿا. بهرحال، ڪجهه تنظيمون پڻ تجربا ڪري رهيون آهن ته ڪيئن استعمال ڪجي AI کي ڳولڻ ۽ روڪڻ لاءِ سينسرشپ.

سينسرشپ ۽ AI حوالي سان

الورورٿمس، AI پاران طاقتور، وڌندڙ ڊيٽا کان متاثر ٿي رهيا آهن جن تي اهي تربيت ڪيا ويا آهن. بهرحال، هي ترقي حڪومتن يا تنظيمن پاران AI سسٽم جي امڪاني غلط استعمال بابت خدشات پيدا ڪري ٿي. ان جو هڪ شاندار مثال آهي چيني حڪومت پاران AI جو استعمال سوشل ميڊيا پليٽ فارمن جهڙوڪ WeChat ۽ Weibo تي مواد کي سينسر ڪرڻ لاءِ. 

برعڪس، AI سسٽم جي ارتقاء پڻ ڪجهه ايپليڪيشنن ۾ وڏي واعدو رکي ٿي، جهڙوڪ مواد جي چڪاس ۽ سنسر ٿيل معلومات جي درست ڳولا. سوشل ميڊيا پليٽ فارمز انهن جي سرورز تي پوسٽ ڪيل مواد جي نگراني ڪرڻ لاءِ AI کي استعمال ڪرڻ ۾ اڳڀرائي تي آهن، خاص طور تي جڏهن اها نفرت واري تقرير ۽ مواد کي سڃاڻڻ جي اچي ٿي جيڪا تشدد کي ڀڙڪائي ٿي. مثال طور، 2019 ۾، يوٽيوب هڪ اهم اعلان ڪيو ان جي ارادي بابت AI ​​کي ملازمت ڏيڻ جي وڊيوز جي نشاندهي ڪرڻ ۾ جنهن ۾ گرافڪ تشدد يا انتهاپسند مواد شامل آهن.

ان کان علاوه، 2020 جي آخر تائين، Facebook ٻڌايو ته ان جي AI الگورتھم پليٽ فارم تي پوسٽ ڪيل نفرت واري تقرير جو تقريبا 94.7 سيڪڙو ڳولي سگهي ٿو. هن تيزيءَ سان اڀرندڙ منظرنامي ۾، پاليسي سازن ۽ عوام ٻنهي لاءِ انتهائي اهم آهي ته اهي آن لائن مواد تي AI جي اثر جي ٻٽي نوعيت جي باري ۾ باخبر رهن. جڏهن ته ان جي سينسرشپ جي صلاحيت بابت خدشا آهن، AI مواد جي چڪاس کي وڌائڻ ۽ محفوظ آن لائن ماحول کي يقيني بڻائڻ لاءِ قيمتي اوزار پڻ پيش ڪري ٿو. 

خراب ڪندڙ اثر

يونيورسٽي آف ڪيليفورنيا سين ڊيوگو پاران 2021 جو مطالعو ٻن الڳ AI الگورٿمز کي جانچيو ته ڏسو ته ڪيئن انهن مخصوص اصطلاحن تي مشتمل هيڊ لائنون ٺاهيون. AI سسٽم انفارميشن پورٽل وڪيپيڊيا (چيني وڪيپيڊيا) جي چيني ورزن مان تربيتي ڊيٽا جو جائزو ورتو ۽ Baidu Baike، هڪ آن لائن انسائيڪلوپيڊيا. 

مطالعي مان معلوم ٿيو ته چيني وڪيپيڊيا تي تربيت يافته AI الگورٿم وڌيڪ هاڪاري اسڪور ڏنيون هيڊ لائنز جن ۾ ذڪر ڪيل اصطلاحن جهڙوڪ ”اليڪشن“ ۽ ”آزادي“. ان دوران، Baidu Baike تي تربيت يافته AI الگورتھم عنوانن تي وڌيڪ مثبت اسڪور ڏنا جن ۾ جملن جهڙوڪ ”نگراني“ ۽ ”سماجي ڪنٽرول“ شامل آهن. هي وحي ڪيترن ئي ماهرن جي وچ ۾ حڪومتي سنسرشپ جي AI جي صلاحيت بابت خدشات کي جنم ڏنو. 

تنهن هوندي، اتي پڻ اڀياس ڪيا ويا آهن جيڪي ڏٺو ويو ته ڪيئن AI سينسرشپ جي ڪوششن جي سڃاڻپ ڪري سگهي ٿي. 2021 ۾، يونيورسٽي آف شکاگو جي ڊيٽا سائنس انسٽيٽيوٽ ۽ پرنسٽن يونيورسٽي انٽرنيٽ سينسرشپ جي نگراني ۽ ان کي ڳولڻ لاءِ حقيقي وقت وارو اوزار ٺاهڻ جو منصوبو جاري ڪيو. پروجيڪٽ جو حتمي مقصد ڊيٽا استعمال ڪندڙن کي اضافي مانيٽرنگ صلاحيتون ۽ ڊيش بورڊ مهيا ڪرڻ آهي- بشمول سفارتڪار، پاليسي ساز، ۽ غير سائنسدان. ٽيم سنسرشپ لاءِ حقيقي وقت ”موسم جو نقشو“ حاصل ڪرڻ جو ارادو رکي ٿي ته جيئن مبصرن تقريبن فوري طور تي انٽرنيٽ جي مداخلت کي ڏسي سگھن جيئن اهو ٿئي ٿو. ھن خصوصيت ۾ شامل آھن ملڪ ۽ سائيٽون يا مواد حڪومتون ھڙپ ڪري رھيون آھن.

سينسرشپ ۽ AI جا اثر

سينسرشپ ۽ AI جا وسيع اثر شامل ٿي سگھن ٿا: 

• سائبر ڪرمنلز هيڪنگ سينسرشپ تنظيمن کي پڪڙڻ ۽ سنسر ٿيل معلومات کي هٿي ڏيڻ لاءِ. 
• اوزارن لاءِ سيڙپڪاري ۽ تحقيق کي وڌايو جيڪو سينسرشپ ۽ ٻين معلومات جي ڦيرڦار کي ڳولي سگھي ٿو.
• سوشل ميڊيا پليٽ فارمز انهن جي الگورتھم کي مڪمل ڪرڻ لاءِ جاري رکي ٿو مواد کي اعتدال سان. بهرحال، هي وڌندڙ خود پوليسنگ ڪيترن ئي استعمال ڪندڙن کي ڌار ڪري سگهي ٿو.
• حڪومتي اهلڪارن ۽ نيوز ميڊيا جي دڪانن تي ڪميونٽي جي بي اعتمادي ۾ اضافو.
• مقامي ميڊيا ۽ خبرن کي ڪنٽرول ڪرڻ لاءِ ڪجهه قومي رياستن پاران AI سسٽم استعمال ٿيڻ جاري آهي ، بشمول لاڳاپيل حڪومتن لاءِ نامناسب ڪهاڻيون ختم ڪرڻ.
• ڪاروبار مختلف عالمي انٽرنيٽ جي ضابطن جي تعميل ڪرڻ لاءِ پنهنجون ڊجيٽل حڪمت عمليون ترتيب ڏئي رهيا آهن ، وڌيڪ مقامي ۽ ورهايل آن لائن خدمتن ڏانهن.
• صارفين سنسرشپ کان بچڻ لاءِ متبادل، غير مرڪزي پليٽ فارمز ڏانهن رخ ڪري رهيا آهن، سوشل ميڊيا جي متحرڪ ۾ تبديلي کي فروغ ڏيڻ.
• پوري دنيا ۾ پاليسي ساز آزاد تقرير کي دٻائڻ کان سواءِ سنسرشپ ۾ AI کي منظم ڪرڻ جي چيلنج سان وڙهندا رهيا آهن، مختلف قانون سازي جي طريقن جي ڪري.

غور ڪرڻ لاءِ سوال

• سنسرشپ کي فروغ ڏيڻ يا روڪڻ لاءِ ٻيو ڪيئن AI استعمال ٿي سگهي ٿو؟
• AI سينسرشپ جو اڀار ڪيئن ٿي سگھي ٿو وڌيڪ غلط معلومات کي ورهائي؟