Franken-Algorithms: Algorithms خراب ٿي ويا

• الاهي:
• ليکڪ جو نالو

  Quantumrun اڳڪٿي
• اپريل 12، 2023

جيئن ته مشين لرننگ (ML) الگورٿمز وڌيڪ ترقي يافته ٿي ويندا آهن، اهي سکڻ جي قابل هوندا آهن ۽ پنهنجي پاڻ تي وڏي ڊيٽا سيٽن ۾ نمونن سان مطابقت رکندا آهن. اهو عمل، "خودمختيار سکيا" ​​جي نالي سان سڃاتو وڃي ٿو، نتيجو ڪري سگهي ٿو الگورتھم پنهنجو ڪوڊ يا قاعدو ٺاهي سگھي ٿو فيصلا ڪرڻ لاء. هن سان مسئلو اهو آهي ته الورورٿم پاران ٺاهيل ڪوڊ انسانن لاءِ سمجهڻ ڏکيو يا ناممڪن ٿي سگهي ٿو، ان کي تعصب جي نشاندهي ڪرڻ مشڪل بڻائي ٿو. 

Franken-Algorithms جي حوالي سان

Franken-Algorithms جو حوالو ڏنو ويو الورورٿمس (اهي ضابطا جيڪي ڪمپيوٽرن جي پيروي ڪندا آهن جڏهن ڊيٽا پروسيسنگ ڪندا آهن ۽ حڪمن جو جواب ڏيندا آهن) جيڪي ايترو پيچيده ۽ هڪٻئي سان جڙيل آهن ته انسان هاڻي انهن کي سمجهي نٿا سگهن. هي اصطلاح ميري شيلي جي سائنس فڪشن کي هڪ ”عفريت“ جي باري ۾ آهي جنهن کي چريو سائنسدان ڊاڪٽر فرينڪنسٽائن ٺاهيو آهي. جڏهن ته الگورتھم ۽ ڪوڊس وڏي ٽيڪنالاجي جا بلڊنگ بلاڪ آهن ۽ فيس بڪ ۽ گوگل کي بااثر ڪمپنيون هجڻ جي اجازت ڏني آهي اهي هاڻي آهن، اتي اڃا تائين ٽيڪنالاجي بابت گهڻو ڪجهه آهي جيڪو انسان نٿا ڄاڻن. 

جڏهن پروگرامر ڪوڊ ٺاهيندا آهن ۽ انهن کي سافٽ ويئر ذريعي هلائيندا آهن، ML ڪمپيوٽرن کي سمجھڻ ۽ پيش گوئي ڪرڻ جي اجازت ڏيندو آهي. جڏهن ته وڏي ٽيڪنالاجي دعويٰ ڪري ٿي ته الورورٿمس مقصد آهن ڇو ته انساني جذبات ۽ غير متوقعيت انهن تي اثرانداز نه ٿينديون آهن، اهي الگورٿمس ترقي ڪري سگهن ٿا ۽ پنهنجا پنهنجا قاعدا لکي سگهن ٿا، جنهن جي نتيجي ۾ تباهه ڪندڙ نتيجا نڪرندا آهن. انهن الگورٿم پاران ٺاهيل ڪوڊ اڪثر پيچيده ۽ مبهم هوندو آهي، جنهن ڪري محققن يا عملين لاءِ اهو ڏکيو ٿيندو آهي ته هو الگورٿم جي فيصلن جي تشريح ڪن يا ڪنهن به تعصب جي نشاندهي ڪن جيڪي شايد الورورٿم جي فيصلي سازي جي عمل ۾ موجود هجن. اهو روڊ بلاڪ ڪاروبار لاءِ اهم چئلينج پيدا ڪري سگهي ٿو جيڪي فيصلا ڪرڻ لاءِ انهن الگورتھم تي ڀاڙين ٿا، جيئن اهي انهن فيصلن جي پويان دليل کي سمجهڻ يا وضاحت ڪرڻ کان قاصر هوندا.

خراب ڪندڙ اثر

جڏهن Franken-Algorithms خراب ٿي وڃن ٿا، اهو زندگي ۽ موت جو معاملو ٿي سگهي ٿو. هڪ مثال 2018 ۾ هڪ حادثو هو جڏهن ايريزونا ۾ هڪ خود ڊرائيونگ ڪار هڪ موٽر سائيڪل سوار عورت کي ماريو. ڪار جي الگورتھم ان کي صحيح طور تي انسان جي طور تي سڃاڻڻ جي قابل نه هئا. ماهرن حادثي جي بنيادي سبب تي ڇڪايو ويو - ڇا ڪار غلط طريقي سان پروگرام ڪيو ويو، ۽ ڇا الگورتھم پنهنجي فائدي لاء تمام پيچيده ٿي ويو؟ ڇا پروگرامر متفق ٿي سگهن ٿا، تنهن هوندي به، اهو آهي ته سافٽ ويئر ڪمپنين لاء هڪ نگراني سسٽم هجڻ گهرجي- اخلاقيات جو هڪ ڪوڊ. 

بهرحال، هي اخلاقي ڪوڊ وڏي ٽيڪ مان ڪجهه ڌڪ سان گڏ اچي ٿو ڇاڪاڻ ته اهي ڊيٽا ۽ الگورٿم وڪڻڻ جي ڪاروبار ۾ آهن، ۽ ان کي منظم ڪرڻ يا شفاف ٿيڻ جي ضرورت نه آهي. اضافي طور تي، هڪ تازي ترقي جيڪا وڏي ٽيڪني ملازمن لاءِ تشويش جو سبب بڻيل آهي فوج جي اندر الگورتھم جو وڌندڙ استعمال، جهڙوڪ گوگل جي شراڪت آمريڪي ڊپارٽمينٽ آف ڊفينس سان فوجي ٽيڪ ۾ الگورتھم شامل ڪرڻ لاءِ، جهڙوڪ خودمختيار ڊرونز. هي ايپليڪيشن ڪجهه ملازمن کي استعيفيٰ ڏيڻ جو سبب بڻيو آهي ۽ ماهرن خدشات جو اظهار ڪيو آهي ته الورورٿمس اڃا تائين تمام گهڻو غير متوقع آهن ته مارڻ واري مشين طور استعمال ڪيو وڃي. 

هڪ ٻيو انديشو اهو آهي ته فرينڪن-الگورٿمس شايد دائمي ٿي سگهن ٿا ۽ انهن جي تربيت ڪيل ڊيٽا سيٽن جي ڪري تعصب کي وڌائي سگھي ٿو. اهو عمل مختلف سماجي مسئلن کي جنم ڏئي سگهي ٿو، بشمول تبعيض، عدم مساوات، ۽ غلط گرفتاريون. انهن وڌندڙ خطرن جي ڪري، ڪيتريون ئي ٽيڪني ڪمپنيون شايع ڪرڻ شروع ڪري رهيون آهن انهن جي اخلاقي AI هدايتن کي شفاف بڻائڻ لاءِ ته اهي ڪيئن ترقي ڪن، استعمال ڪن ۽ انهن جي الگورتھم جي نگراني ڪن.

Franken-Algorithms لاء وسيع اثر

Franken-Algorithms لاء ممڪن اثر شامل ٿي سگھي ٿو:

• خودمختيار نظامن جي ترقي جيڪا انساني نگراني کان سواءِ فيصلا ڪري سگهي ٿي ۽ عمل ڪري سگهي ٿي، احتساب ۽ حفاظت بابت خدشات پيدا ڪري ٿي. بهرحال، اهڙا الگورتھم شايد ترقي ڪندڙ سافٽ ويئر ۽ روبوٽڪس جي قيمتن کي گھٽائي سگھن ٿيون جيڪي انساني محنت کي خودڪار ڪري سگھن ٿيون اڪثر صنعتن ۾. 
• وڌيڪ ڇنڊڇاڻ ته ڪيئن الگورتھم فوجي ٽيڪنالاجي کي خودڪار ڪري سگھن ٿا ۽ خودمختيار هٿيارن ۽ گاڏين کي سپورٽ ڪري سگھن ٿا.
• حڪومتن ۽ صنعت جي اڳواڻن لاءِ دٻاءُ وڌو ويو ته اخلاقيات ۽ ضابطن جي الگورتھم ڪوڊ کي لاڳو ڪرڻ لاءِ.
• Franken-Algorithms غير متناسب طور تي ڪجهه ڊيموگرافڪ گروپن تي اثر انداز ٿئي ٿو، جهڙوڪ گهٽ آمدني برادرين يا اقليتي آبادي.
• فرينڪن-الگورٿمس کي برقرار رکي سگهي ٿو ۽ تبعيض ۽ تعصب کي وڌائي سگھي ٿو فيصلو سازي ۾، جهڙوڪ نوڪرين ۽ قرض ڏيڻ جا فيصلا.
• اهي الگورتھم سائبر ڪرمنلز پاران استعمال ڪيا ويندا آهن سسٽم ۾ ڪمزورين جي نگراني ۽ استحصال ڪرڻ لاءِ، خاص طور تي مالي ادارن ۾.
• سياسي عملدار بدمعاش الگورتھم استعمال ڪندي مارڪيٽنگ مهمن کي خودڪار ڪرڻ لاءِ جنريٽو اي آءِ سسٽم استعمال ڪندي طريقن سان جيڪي عوامي راءِ تي اثرانداز ٿي سگهن ٿا ۽ چونڊن تي اثرانداز ٿي سگهن ٿا.

غور ڪرڻ لاءِ سوال

• توهان ڪيئن سوچيو ته الورورٿم مستقبل ۾ وڌيڪ ترقي ڪندو؟
• حڪومتون ۽ ڪمپنيون ڇا ڪري سگھن ٿيون فرانڪين-الگورٿمس کي ڪنٽرول ڪرڻ لاءِ؟