কৃত্রিম বুদ্ধিমত্তার পক্ষপাতিত্ব: আমরা আশা করেছিলাম মেশিনগুলি ততটা উদ্দেশ্যমূলক নয়

• লেখক:
• লেখকের নাম

  কোয়ান্টামরুন দূরদর্শিতা
• ফেব্রুয়ারী 8, 2022

অন্তর্দৃষ্টি সারসংক্ষেপ

যদিও ডেটা-চালিত প্রযুক্তিগুলি একটি ন্যায্য সমাজ গড়ে তোলার প্রতিশ্রুতি ধারণ করে, তারা প্রায়শই একই পক্ষপাতকে প্রতিফলিত করে যা মানুষ আশ্রয় করে, যা সম্ভাব্য অবিচারের দিকে পরিচালিত করে। উদাহরণস্বরূপ, কৃত্রিম বুদ্ধিমত্তা (AI) সিস্টেমের পক্ষপাতগুলি অসাবধানতাবশত ক্ষতিকারক স্টেরিওটাইপগুলিকে আরও খারাপ করতে পারে। যাইহোক, এআই সিস্টেমগুলিকে আরও ন্যায়সঙ্গত করার জন্য প্রচেষ্টা চলছে, যদিও এটি ইউটিলিটি এবং ন্যায্যতার মধ্যে ভারসাম্য এবং প্রযুক্তি দলগুলিতে চিন্তাশীল নিয়ন্ত্রণ এবং বৈচিত্র্যের প্রয়োজনীয়তা সম্পর্কে জটিল প্রশ্ন উত্থাপন করে।

এআই পক্ষপাত সাধারণ প্রসঙ্গ

আশা করা যায় যে তথ্য দ্বারা চালিত প্রযুক্তি মানবতাকে এমন একটি সমাজ প্রতিষ্ঠা করতে সহায়তা করবে যেখানে ন্যায্যতা সবার জন্য আদর্শ। তবে বর্তমান বাস্তবতা ভিন্ন চিত্র এঁকেছে। মানুষের অনেক পক্ষপাতিত্ব, যা অতীতে অন্যায়ের দিকে পরিচালিত করেছে, এখন আমাদের ডিজিটাল বিশ্বকে নিয়ন্ত্রণ করে এমন অ্যালগরিদমগুলিতে প্রতিফলিত হচ্ছে৷ এআই সিস্টেমের এই পক্ষপাতগুলি প্রায়শই সেই ব্যক্তিদের কুসংস্কার থেকে উদ্ভূত হয় যারা এই সিস্টেমগুলি বিকাশ করে এবং এই পক্ষপাতগুলি প্রায়শই তাদের কাজে প্রবেশ করে।

উদাহরণ স্বরূপ, ইমেজনেট নামে পরিচিত 2012 সালের একটি প্রকল্প নিন, যা মেশিন লার্নিং সিস্টেমের প্রশিক্ষণের জন্য চিত্রগুলির লেবেলকে ক্রাউডসোর্স করার চেষ্টা করেছিল। এই ডেটাতে প্রশিক্ষিত একটি বড় নিউরাল নেটওয়ার্ক পরবর্তীকালে চিত্তাকর্ষক নির্ভুলতার সাথে বস্তুগুলি সনাক্ত করতে সক্ষম হয়েছিল। যাইহোক, ঘনিষ্ঠ পরিদর্শন করার পরে, গবেষকরা ইমেজনেট ডেটার মধ্যে লুকানো পক্ষপাতগুলি আবিষ্কার করেছেন। একটি বিশেষ ক্ষেত্রে, এই ডেটাতে প্রশিক্ষিত একটি অ্যালগরিদম এই ধারণার প্রতি পক্ষপাতমূলক ছিল যে সমস্ত সফ্টওয়্যার প্রোগ্রামাররা সাদা পুরুষ।

এই পক্ষপাতিত্বের ফলে নিয়োগ প্রক্রিয়া স্বয়ংক্রিয় হলে নারীদের এই ধরনের ভূমিকার জন্য উপেক্ষা করা হতে পারে। পক্ষপাতগুলি ডেটা সেটগুলিতে তাদের পথ খুঁজে পেয়েছিল কারণ ব্যক্তি "মহিলা" এর চিত্রগুলিতে লেবেল যুক্ত করার জন্য একটি অতিরিক্ত লেবেল অন্তর্ভুক্ত ছিল যা একটি অবমাননাকর শব্দ নিয়ে গঠিত৷ এই উদাহরণটি ব্যাখ্যা করে কিভাবে পক্ষপাতিত্ব, ইচ্ছাকৃত বা অনিচ্ছাকৃত, এমনকি সবচেয়ে পরিশীলিত AI সিস্টেমেও অনুপ্রবেশ করতে পারে, সম্ভাব্য ক্ষতিকারক স্টেরিওটাইপ এবং অসমতাকে স্থায়ী করে।

বিঘ্নিত প্রভাব 

তথ্য এবং অ্যালগরিদমের পক্ষপাতিত্ব মোকাবেলার প্রচেষ্টা বিভিন্ন সরকারী ও বেসরকারী সংস্থা জুড়ে গবেষকরা শুরু করেছেন। ইমেজনেট প্রজেক্টের ক্ষেত্রে, উদাহরণস্বরূপ, ক্রাউডসোর্সিংকে নির্দিষ্ট ইমেজের উপর অবমাননাকর আলোকপাতকারী লেবেলিং শর্তাবলী চিহ্নিত করতে এবং বাদ দেওয়ার জন্য নিযুক্ত করা হয়েছিল। এই ব্যবস্থাগুলি প্রমাণ করেছে যে AI সিস্টেমগুলিকে আরও ন্যায়সঙ্গত করার জন্য পুনরায় কনফিগার করা সত্যিই সম্ভব।

যাইহোক, কিছু বিশেষজ্ঞরা যুক্তি দেন যে পক্ষপাত অপসারণ করা সম্ভাব্যভাবে একটি ডেটা সেটকে কম কার্যকর করতে পারে, বিশেষ করে যখন একাধিক পক্ষপাতিত্ব চলছে। নির্দিষ্ট কিছু পক্ষপাত থেকে বাদ পড়া একটি ডেটা সেট কার্যকরী ব্যবহারের জন্য পর্যাপ্ত তথ্যের অভাব হতে পারে। এটি একটি সত্যিকারের বৈচিত্র্যময় ইমেজ ডেটা সেট দেখতে কেমন হবে তা নিয়ে প্রশ্ন উত্থাপন করে এবং কীভাবে এটির উপযোগিতাকে আপস না করে ব্যবহার করা যেতে পারে।

এই প্রবণতাটি এআই এবং ডেটা-চালিত প্রযুক্তি ব্যবহারের জন্য একটি চিন্তাশীল পদ্ধতির প্রয়োজনীয়তার উপর জোর দেয়। কোম্পানিগুলির জন্য, এর অর্থ হতে পারে পক্ষপাত-সনাক্তকরণ সরঞ্জামগুলিতে বিনিয়োগ করা এবং প্রযুক্তি দলগুলিতে বৈচিত্র্য প্রচার করা৷ সরকারের জন্য, এটি AI এর ন্যায্য ব্যবহার নিশ্চিত করার জন্য প্রবিধান বাস্তবায়নের সাথে জড়িত হতে পারে। 

এআই পক্ষপাতের প্রভাব

এআই পক্ষপাতের বিস্তৃত প্রভাব অন্তর্ভুক্ত হতে পারে:

• সংস্থাগুলি ন্যায্যতা এবং অ-বৈষম্য নিশ্চিত করতে সক্রিয় হচ্ছে কারণ তারা উত্পাদনশীলতা এবং কর্মক্ষমতা উন্নত করতে AI ব্যবহার করে। 
• একটি প্রকল্পের প্রথম দিকে নৈতিক ঝুঁকি সনাক্ত এবং প্রশমিত করতে উন্নয়ন দলে একজন এআই নীতিবিদ থাকা। 
• লিঙ্গ, জাতি, শ্রেণী এবং সংস্কৃতির মতো বৈচিত্র্যের বিষয়গুলিকে পরিষ্কারভাবে মাথায় রেখে AI পণ্য ডিজাইন করা।
• বিভিন্ন গোষ্ঠী থেকে প্রতিনিধি প্রাপ্ত করা যারা একটি কোম্পানির AI পণ্য এটি প্রকাশ করার আগে এটি পরীক্ষা করার জন্য ব্যবহার করবে।
• জনসাধারণের নির্দিষ্ট সদস্যদের থেকে বিভিন্ন জনসেবা সীমাবদ্ধ করা হচ্ছে।
• জনসাধারণের কিছু সদস্য নির্দিষ্ট কাজের সুযোগ অ্যাক্সেস করতে বা যোগ্যতা অর্জন করতে অক্ষম।
• আইন প্রয়োগকারী সংস্থা এবং পেশাদাররা অন্যায়ভাবে সমাজের নির্দিষ্ট সদস্যদের অন্যদের চেয়ে বেশি লক্ষ্য করে। 

বিবেচনা করার প্রশ্ন

• আপনি কি আশাবাদী যে স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণ ভবিষ্যতে ন্যায্য হবে?
• এআই সিদ্ধান্ত নেওয়ার বিষয়ে কী আপনাকে সবচেয়ে নার্ভাস করে তোলে?