د مصنوعي استخباراتو تعصب: ماشینونه هغومره هدف نه دي لکه څنګه چې موږ تمه درلوده

د انځور کریډیټ:
د انځور کریډیټ
ایسته

د مصنوعي استخباراتو تعصب: ماشینونه هغومره هدف نه دي لکه څنګه چې موږ تمه درلوده

د مصنوعي استخباراتو تعصب: ماشینونه هغومره هدف نه دي لکه څنګه چې موږ تمه درلوده

فرعي سرلیک متن
هرڅوک موافق دي چې AI باید بې طرفه وي، مګر د تعصبونو لرې کول ستونزمن ثابتوي
    • لیکونکی:
    • د لیکوال نوم
      Quantumrun وړاندوینه
    • د فبرورۍ په 8، 2022

    د بصیرت لنډیز

    پداسې حال کې چې د معلوماتو لخوا پرمخ وړل شوي ټیکنالوژي د عادلانه ټولنې د ودې ژمنه کوي، دوی ډیری وختونه ورته تعصب منعکس کوي چې انسانان یې ساتلي، چې د احتمالي بې عدالتۍ لامل کیږي. د مثال په توګه، د مصنوعي استخباراتو (AI) سیسټمونو کې تعصب کولی شي په غیر ارادي توګه زیان رسونکي سټیریوټایپونه خراب کړي. په هرصورت، د AI سیسټمونو ډیر مساوي کولو لپاره هڅې روانې دي، که څه هم دا د کارونې او انصاف تر مینځ توازن، او په تخنیکي ټیمونو کې د فکري تنظیم او تنوع اړتیا په اړه پیچلې پوښتنې راپورته کوي.

    د AI تعصب عمومي شرایط

    امید دا دی چې د معلوماتو لخوا پرمخ وړل شوي ټیکنالوژي به د یوې ټولنې په رامینځته کولو کې د انسانیت سره مرسته وکړي چیرې چې عادلانه د ټولو لپاره نورم وي. په هرصورت، اوسنی واقعیت بل انځور انځوروي. ډیری هغه تعصبونه چې انسانان لري، چې په تیرو وختونو کې د بې عدالتۍ لامل شوي، اوس په الګوریتمونو کې منعکس کیږي چې زموږ ډیجیټل نړۍ اداره کوي. د AI سیسټمونو کې دا تعصبونه اکثرا د هغه اشخاصو له تعصب څخه رامینځته کیږي چې دا سیسټمونه رامینځته کوي ، او دا تعصبونه په مکرر ډول د دوی کار ته ننوځي.

    د مثال په توګه، په 2012 کې یوه پروژه واخلئ چې د ImageNet په نوم پیژندل شوی، کوم چې د ماشین زده کړې سیسټمونو روزنې لپاره د انځورونو لیبل کولو د راټولولو هڅه کوله. په دې ډیټا کې روزل شوي لوی عصبي شبکه وروسته د دې وړتیا درلوده چې شیان په اغیزمنه دقت سره وپیژني. په هرصورت، په نږدې تفتیش کې، څیړونکو د ImageNet ډاټا کې پټ شوي تعصبونه وموندل. په یوه ځانګړې قضیه کې، د دې معلوماتو په اړه روزل شوی الګوریتم د دې انګیرنې په لور متعصب و چې ټول سافټویر پروګرام کونکي سپین سړي دي.

    دا تعصب په احتمالي توګه د دې لامل کیدی شي چې میرمنې د داسې رولونو لپاره له پامه غورځول شي کله چې د استخدام پروسه اتومات وي. تعصبونو د ډیټا سیټونو ته لاره وموندله ځکه چې انفرادي د "ښځې" عکسونو ته لیبل اضافه کول یو اضافي لیبل شامل و چې د سپکاوي اصطلاح پکې شامله وه. دا بیلګه روښانه کوي چې څنګه تعصبونه، که په قصدي یا غیر ارادي توګه، حتی خورا پیچلي AI سیسټمونو ته نفوذ کولی شي، په بالقوه توګه زیانمنونکي سټیریوټایپونه او نابرابرۍ دوام لري.

    ګډوډي اغیزې 

    په ډیټا او الګوریتمونو کې د تعصب په نښه کولو هڅې په مختلفو عامه او خصوصي سازمانونو کې د څیړونکو لخوا پیل شوي. د امیج نیټ پروژې په قضیه کې، د بیلګې په توګه، د لیبل کولو شرایط پیژندلو او له منځه وړلو لپاره کراوډ سورسنګ په کار ګمارل شوی و چې په ځینو انځورونو کې د سپکاوي رڼا واچوله. دې اقداماتو وښودله چې دا واقعیا ممکنه ده چې د AI سیسټمونو بیا تنظیم کول ډیر مساوي وي.

    په هرصورت، ځینې ماهرین استدلال کوي چې د تعصب لرې کول ممکن په احتمالي توګه د ډیټا سیټ لږ اغیزمن کړي، په ځانګړې توګه کله چې ډیری تعصبونه په لوبې کې وي. د ځانګړو تعصبونو څخه لیرې شوي ډیټا سیټ ممکن د مؤثره کارونې لپاره د کافي معلوماتو نشتوالی پای ته ورسوي. دا پوښتنه راپورته کوي چې د ریښتیني متنوع عکس ډیټا سیټ به څه ډول ښکاري ، او دا څنګه کارول کیدی شي پرته له دې چې د دې ګټې سره موافقت وکړي.

    دا رجحان د AI او ډیټا لخوا پرمخ وړل شوي ټیکنالوژیو کارولو لپاره د فکري چلند اړتیا په ګوته کوي. د شرکتونو لپاره، دا ممکن د تعصب موندنې وسیلو کې پانګه اچونه او په تخنیکي ټیمونو کې تنوع ته وده ورکړي. د حکومتونو لپاره، دا د AI عادلانه کارونې ډاډ ترلاسه کولو لپاره د مقرراتو پلي کول شامل دي. 

    د AI تعصب اغیزې

    د AI تعصب پراخې اغیزې کېدای شي پدې کې شامل وي:

    • سازمانونه د عادلانه او غیر تبعیض په یقیني کولو کې فعال دي ځکه چې دوی د تولید او فعالیت ښه کولو لپاره AI څخه ګټه پورته کوي. 
    • په پرمختیایی ټیمونو کې د AI اخالقي درلودل ترڅو د پروژې په پیل کې اخلاقي خطرونه کشف او کم کړي. 
    • د AI محصولاتو ډیزاین کول د تنوع فکتورونو سره لکه جنډر ، نسل ، ټولګي او کلتور په روښانه ډول په ذهن کې.
    • د متنوع ډلو څخه د استازو ترلاسه کول چې د شرکت AI محصول به د خوشې کیدو دمخه د ازموینې لپاره وکاروي.
    • مختلف عامه خدمتونه د خلکو د ځینو غړو لخوا محدود شوي.
    • د خلکو ځینې غړي نشي کولی د ځینې کاري فرصتونو لپاره لاسرسی یا وړتیا ولري.
    • د قانون پلي کونکي ادارې او مسلکیان په غیر عادلانه ډول د نورو په پرتله د ټولنې ځینې غړي په نښه کوي. 

    د غور کولو لپاره پوښتنې

    • ایا تاسو خوشبین یاست چې په راتلونکي کې به د اتوماتیک پریکړې کولو عادلانه وي؟
    • د AI تصمیم نیولو په اړه څه تاسو خورا عصبي کوي؟

    د بصیرت حوالې

    د دې بصیرت لپاره لاندې مشهور او بنسټیز لینکونه حواله شوي: