Franken-Algorithms: الگورتھم بدمعاش ہو گئے ہیں۔

• مصنف:
• مصنف کا نام

  Quantumrun دور اندیشی
• اپریل 12، 2023

جیسے جیسے مشین لرننگ (ML) الگورتھم زیادہ ترقی یافتہ ہوتے جاتے ہیں، وہ اپنے طور پر بڑے ڈیٹا سیٹس میں پیٹرن سیکھنے اور ان کے مطابق ڈھالنے کے قابل ہوتے ہیں۔ یہ عمل، جسے "خودمختار لرننگ" کہا جاتا ہے، اس کے نتیجے میں الگورتھم فیصلہ کرنے کے لیے اپنا کوڈ یا قواعد تیار کر سکتا ہے۔ اس کے ساتھ مسئلہ یہ ہے کہ الگورتھم کے ذریعے تیار کردہ کوڈ کو انسانوں کے لیے سمجھنا مشکل یا ناممکن ہو سکتا ہے، جس سے تعصبات کی نشاندہی کرنا مشکل ہو جاتا ہے۔ 

Franken-Algorithms سیاق و سباق

Franken-Algorithms کا حوالہ دیتے ہیں الگورتھم (وہ قواعد جن پر کمپیوٹر ڈیٹا پر کارروائی کرتے وقت اور کمانڈز کا جواب دیتے ہیں) جو اتنے پیچیدہ اور آپس میں جڑے ہوئے ہیں کہ انسان ان کو مزید سمجھ نہیں سکتے۔ یہ اصطلاح میری شیلی کے سائنس فکشن کی طرف اشارہ ہے جو ایک "عفریت" کے بارے میں ہے جسے پاگل سائنسدان ڈاکٹر فرینکنسٹین نے تخلیق کیا ہے۔ اگرچہ الگورتھم اور کوڈز بڑی ٹیک کی تعمیر کے بلاکس ہیں اور انہوں نے فیس بک اور گوگل کو بااثر کمپنیاں بننے کی اجازت دی ہے جو وہ اب ہیں، لیکن اس ٹیکنالوجی کے بارے میں ابھی بھی بہت کچھ ہے جو انسان نہیں جانتے۔ 

جب پروگرامرز کوڈز بناتے ہیں اور انہیں سافٹ ویئر کے ذریعے چلاتے ہیں، ایم ایل کمپیوٹرز کو پیٹرن کو سمجھنے اور پیشین گوئی کرنے کی اجازت دیتا ہے۔ اگرچہ بڑی ٹیکنالوجی کا دعویٰ ہے کہ الگورتھم معروضی ہیں کیونکہ انسانی جذبات اور غیر متوقع صلاحیت ان پر اثرانداز نہیں ہوتی، یہ الگورتھم تیار کر سکتے ہیں اور اپنے اصول لکھ سکتے ہیں، جس کے نتیجے میں تباہ کن نتائج برآمد ہوتے ہیں۔ ان الگورتھم کے ذریعہ تیار کردہ کوڈ اکثر پیچیدہ اور مبہم ہوتا ہے، جس سے محققین یا پریکٹیشنرز کے لیے الگورتھم کے فیصلوں کی تشریح کرنا یا الگورتھم کے فیصلہ سازی کے عمل میں موجود کسی بھی تعصب کی نشاندہی کرنا مشکل ہو جاتا ہے۔ یہ روڈ بلاک ان کاروباروں کے لیے اہم چیلنجز پیدا کر سکتا ہے جو فیصلے کرنے کے لیے ان الگورتھم پر انحصار کرتے ہیں، کیونکہ وہ ان فیصلوں کے پیچھے کی وجہ کو سمجھنے یا اس کی وضاحت کرنے سے قاصر ہو سکتے ہیں۔

خلل ڈالنے والا اثر

جب Franken-Algorithms بدمعاش ہو جاتے ہیں، تو یہ زندگی اور موت کا معاملہ ہو سکتا ہے۔ اس کی مثال 2018 میں ایک حادثہ تھا جب ایریزونا میں ایک خود سے چلنے والی کار نے موٹر سائیکل سوار خاتون کو ٹکر مار کر ہلاک کر دیا۔ کار کے الگورتھم اسے انسان کے طور پر درست طریقے سے شناخت کرنے سے قاصر تھے۔ ماہرین حادثے کی بنیادی وجہ پر پھٹے ہوئے تھے — کیا کار کو غلط طریقے سے پروگرام کیا گیا تھا، اور کیا الگورتھم اپنی بھلائی کے لیے بہت پیچیدہ ہو گیا تھا؟ تاہم، پروگرامرز جس چیز پر متفق ہو سکتے ہیں، وہ یہ ہے کہ سافٹ ویئر کمپنیوں کے لیے ایک نگرانی کا نظام ہونا ضروری ہے۔ 

تاہم، یہ اخلاقیات کوڈ بڑی ٹیک کی طرف سے کچھ پش بیک کے ساتھ آتا ہے کیونکہ وہ ڈیٹا اور الگورتھم فروخت کرنے کے کاروبار میں ہیں، اور ان کو ریگولیٹ کرنے یا شفاف ہونے کی ضرورت نہیں ہے۔ مزید برآں، ایک حالیہ پیشرفت جو بڑے ٹیک ملازمین کے لیے تشویش کا باعث بنی ہے وہ ہے فوج کے اندر الگورتھم کا بڑھتا ہوا استعمال، جیسے کہ خود مختار ڈرون کی طرح ملٹری ٹیک میں الگورتھم کو شامل کرنے کے لیے امریکی محکمہ دفاع کے ساتھ Google کی شراکت داری۔ اس ایپلیکیشن کی وجہ سے کچھ ملازمین مستعفی ہو گئے ہیں اور ماہرین نے خدشات کا اظہار کیا ہے کہ الگورتھم اب بھی اتنے غیر متوقع ہیں کہ انہیں قتل کرنے والی مشینوں کے طور پر استعمال کیا جا سکے۔ 

ایک اور تشویش یہ ہے کہ فرینکن-الگورتھمز ان ڈیٹاسیٹس کی وجہ سے جن پر انہیں تربیت دی جاتی ہے اسے برقرار رکھ سکتے ہیں اور تعصبات کو بڑھا سکتے ہیں۔ یہ عمل امتیازی سلوک، عدم مساوات اور غلط گرفتاریوں سمیت مختلف سماجی مسائل کا باعث بن سکتا ہے۔ ان بڑھتے ہوئے خطرات کی وجہ سے، بہت سی ٹیک کمپنیاں اپنی اخلاقی AI رہنما خطوط کو شائع کرنا شروع کر رہی ہیں تاکہ وہ اپنے الگورتھم کو کیسے تیار، استعمال اور نگرانی کرتے ہیں۔

Franken-Algorithms کے لیے وسیع مضمرات

Franken-Algorithms کے ممکنہ مضمرات میں شامل ہو سکتے ہیں:

• ایسے خود مختار نظاموں کی ترقی جو انسانی نگرانی کے بغیر فیصلے کر سکے اور اقدامات کر سکے، جس سے احتساب اور حفاظت کے بارے میں خدشات پیدا ہوں۔ تاہم، اس طرح کے الگورتھم سافٹ ویئر اور روبوٹکس تیار کرنے کے اخراجات کو کم کر سکتے ہیں جو زیادہ تر صنعتوں میں انسانی محنت کو خودکار کر سکتے ہیں۔ 
• الگورتھم کس طرح فوجی ٹیکنالوجی کو خودکار کر سکتے ہیں اور خود مختار ہتھیاروں اور گاڑیوں کو سپورٹ کر سکتے ہیں اس پر مزید جانچ پڑتال۔
• حکومتوں اور صنعت کے رہنماؤں پر اخلاقیات اور ضوابط کے الگورتھم کوڈ کو نافذ کرنے کے لیے دباؤ میں اضافہ۔
• Franken-Algorithms غیر متناسب طور پر بعض آبادیاتی گروہوں پر اثر انداز ہوتے ہیں، جیسے کم آمدنی والی کمیونٹیز یا اقلیتی آبادی۔
• Franken-Algorithms فیصلہ سازی میں امتیازی سلوک اور تعصب کو برقرار رکھ سکتے ہیں اور بڑھا سکتے ہیں، جیسے کہ ملازمت اور قرض دینے کے فیصلے۔
• یہ الگورتھم سائبر جرائم پیشہ افراد کے ذریعے سسٹمز، خاص طور پر مالیاتی اداروں میں کمزوریوں کی نگرانی اور ان کا استحصال کرنے کے لیے استعمال کیے جا رہے ہیں۔
• سیاسی اداکار جنریٹیو AI سسٹمز کا استعمال کرتے ہوئے مارکیٹنگ مہموں کو خودکار بنانے کے لیے بدمعاش الگورتھم کا استعمال کرتے ہیں جو رائے عامہ کو متاثر کر سکتے ہیں اور انتخابات پر اثر انداز ہو سکتے ہیں۔

غور کرنے کے لیے سوالات۔

• آپ کے خیال میں مستقبل میں الگورتھم مزید ترقی کیسے کریں گے؟
• Franken-Algorithms کو کنٹرول کرنے کے لیے حکومتیں اور کمپنیاں کیا کر سکتی ہیں؟