فرانکین-الګوریتمونه: الګوریتمونه غلي شوي
فرانکین-الګوریتمونه: الګوریتمونه غلي شوي
فرانکین-الګوریتمونه: الګوریتمونه غلي شوي
- لیکونکی:
- د اپریل په 12، 2023
لکه څنګه چې د ماشین زده کړې (ML) الګوریتمونه خورا پرمختللي کیږي، دوی کولی شي پخپله په لوی ډیټاسیټونو کې نمونې زده کړي او تطبیق کړي. دا پروسه چې د "خپلواکه زده کړې" په نوم پیژندل کیږي، کولی شي الګوریتم د پریکړې کولو لپاره خپل کوډ یا قواعد رامینځته کړي. د دې سره مسله دا ده چې د الګوریتم لخوا رامینځته شوی کوډ ممکن د انسانانو لپاره ستونزمن یا ناممکن وي چې پوه شي ، دا د تعصبونو په ګوته کول ننګوي.
د فرانکین-الګوریتم شرایط
فرانکین-الګوریتم الګوریتمونو ته اشاره کوي (هغه مقررات چې کمپیوټر یې تعقیبوي کله چې ډیټا پروسس کوي او امرونو ته ځواب ورکوي) کوم چې دومره پیچلي او یو له بل سره تړلي شوي چې انسانان نور نشي کولی دوی تشریح کړي. دا اصطالح د مریم شیلي ساینسي افسانې ته اشاره ده چې د "راکشس" په اړه د لیوني ساینس پوه ډاکټر فرانکنسټین لخوا رامینځته شوی. پداسې حال کې چې الګوریتمونه او کوډونه د لوی ټیکنالوژۍ ودانۍ بلاکونه دي او فیسبوک او ګوګل ته یې اجازه ورکړې چې اغیزمن شرکتونه وي چې دوی اوس دي، لاهم د ټیکنالوژۍ په اړه ډیر څه شتون لري چې انسانان نه پوهیږي.
کله چې پروګرام کونکي کوډونه جوړوي او د سافټویر له لارې یې چلوي، ML کمپیوټر ته اجازه ورکوي چې نمونې درک او اټکل وکړي. پداسې حال کې چې لوی ټیکنالوژي ادعا کوي چې الګوریتمونه هدف دي ځکه چې د انسان احساسات او اټکل نه کوي په دوی اغیزه کوي، دا الګوریتمونه کولی شي خپل قواعد رامینځته کړي او ولیکي، چې د ناورین پایلو المل کیږي. د دې الګوریتمونو لخوا رامینځته شوی کوډ اکثرا پیچلي او مبهم وي ، د څیړونکو یا متخصصینو لپاره دا ستونزمن کوي چې د الګوریتم پریکړې تشریح کړي یا کوم تعصبونه وپیژني چې ممکن د الګوریتم پریکړې کولو پروسې کې شتون ولري. دا د سړک خنډ کولی شي د سوداګرۍ لپاره د پام وړ ننګونې رامینځته کړي چې د پریکړې کولو لپاره پدې الګوریتمونو تکیه کوي ، ځکه چې دوی نشي کولی د دې پریکړو ترشا دلیل پوه شي یا تشریح کړي.
ګډوډي اغیزې
کله چې فرانکین-الګوریتم غلط شي، دا د ژوند او مرګ مسله کیدی شي. یوه بیلګه یې په 2018 کې یوه حادثه وه کله چې په اریزونا کې یو ځان چلونکی موټر په موټرسایکل سپاره یوه ښځه ټکر کړه او ووژله. د موټر الګوریتم نشي کولی هغه په سمه توګه د انسان په توګه وپیژني. متخصصین د حادثې اصلي لامل په ګوته شوي - ایا موټر په ناسم ډول برنامه شوی و ، او ایا الګوریتم د خپل ښه لپاره خورا پیچلی شوی؟ په هرصورت، کوم پروګرام کونکي کولی شي موافق وي، په هرصورت، د سافټویر شرکتونو لپاره د نظارت سیسټم ته اړتیا ده - د اخالقي کوډ.
په هرصورت، دا اخالقي کوډ د لوی ټیکنالوژۍ څخه یو څه فشار سره راځي ځکه چې دوی د ډیټا او الګوریتم پلورلو په سوداګرۍ کې دي، او نشي کولی تنظیم شي یا شفاف وي. برسیره پردې، یو وروستی پرمختګ چې د لوی تخنیکي کارمندانو لپاره یې اندیښنه رامینځته کړې په اردو کې د الګوریتمونو زیاتیدونکي کارول دي، لکه د متحده ایاالتو د دفاع وزارت سره د ګوګل ملګرتیا ترڅو په نظامي ټیک کې الګوریتمونه شامل کړي، لکه خودمختاره ډرون. دا اپلیکیشن د دې لامل شوی چې ځینې کارمندان استعفا ورکړي او کارپوهان اندیښنه څرګندوي چې الګوریتمونه لاهم د اور وژنې ماشینونو په توګه کارول کیدو لپاره خورا غیر متوقع دي.
بله اندیښنه دا ده چې فرانکین - الګوریتم ممکن د ډیټاسیټونو له امله چې دوی روزل شوي دوام وکړي او حتی تعصبونه پراخ کړي. دا پروسه کولی شي د مختلفو ټولنیزو مسلو لامل شي، په شمول د تبعیض، نابرابرۍ، او ناسم نیول. د دې لوړ خطرونو له امله ، ډیری تخنیکي شرکتونه د دوی اخالقي AI لارښودونو خپرولو پیل کوي ترڅو د دوی الګوریتمونو رامینځته کولو ، کارولو او نظارت کولو څرنګوالي په اړه شفاف وي.
د فرانکین-الګوریتم لپاره پراخه اغیزې
د فرانکین-الګوریتم لپاره احتمالي اغیزې کېدای شي پدې کې شامل وي:
- د خپلواکو سیسټمونو پراختیا چې کولی شي پریکړې وکړي او د بشري نظارت پرته عمل وکړي، د حساب ورکولو او خوندیتوب په اړه اندیښنې راپورته کوي. په هرصورت، دا ډول الګوریتمونه ممکن د سافټویر او روبوټیکونو پراختیا لګښتونه کم کړي چې کولی شي په ډیری صنعتونو کې د انسان کار اتومات کړي.
- په دې اړه نوره څیړنه چې څنګه الګوریتم کولی شي نظامي ټیکنالوژي اتومات کړي او د خپلواکو وسلو او وسایطو ملاتړ وکړي.
- د حکومتونو او صنعت مشرانو لپاره د اخالقیاتو او مقرراتو د الګوریتم کوډ پلي کولو لپاره فشار ډیر شوی.
- فرانکین-الګوریتمونه په غیر متناسب ډول د ډیموګرافیک ګروپونو اغیزه کوي، لکه د ټیټ عاید ټولنې یا اقلیت نفوس.
- فرانکین-الګوریتم کولی شي د تصمیم نیولو په برخه کې تبعیض او تعصب ته دوام ورکړي او پراخ کړي، لکه د استخدام او پور ورکولو پریکړې.
- دا الګوریتمونه د سایبر جنایتکارانو لخوا په سیسټمونو کې په ځانګړي توګه په مالي ادارو کې د ضعفونو نظارت او استحصال لپاره کارول کیږي.
- سیاسي فعالین د بازار موندنې کمپاینونو اتومات کولو لپاره غلط الګوریتمونه کاروي ترڅو د تولیدي AI سیسټمونو په کارولو سره په داسې لارو چارو اغیزه وکړي چې کولی شي د عامه افکارو اغیزه وکړي او په ټاکنو اغیزه وکړي.
د غور کولو لپاره پوښتنې
- تاسو څنګه فکر کوئ چې الګوریتم به په راتلونکي کې نور هم وده وکړي؟
- حکومتونه او شرکتونه د فرانکین - الګوریتم کنټرول لپاره څه کولی شي؟
د بصیرت حوالې
د دې بصیرت لپاره لاندې مشهور او بنسټیز لینکونه حواله شوي:
