প্রযুক্তিতে নৈতিকতার নির্দেশিকা: যখন বাণিজ্য গবেষণার দায়িত্ব নেয়

• লেখক:
• লেখকের নাম

  কোয়ান্টামরুন দূরদর্শিতা
• ফেব্রুয়ারী 15, 2023

অন্তর্দৃষ্টি সারসংক্ষেপ

কৃত্রিম বুদ্ধিমত্তা (AI) সিস্টেমগুলি নির্বাচিত সংখ্যালঘু গোষ্ঠীগুলির উপর সম্ভাব্য বিপদ এবং অ্যালগরিদমিক পক্ষপাতের কারণে, অনেক ফেডারেল সংস্থা এবং সংস্থাগুলিকে ক্রমবর্ধমানভাবে প্রযুক্তি প্রদানকারীদের প্রয়োজন হয় যে তারা কীভাবে AI বিকাশ ও স্থাপন করছে সে সম্পর্কে নৈতিক নির্দেশিকা প্রকাশ করা। যাইহোক, বাস্তব জীবনে এই নির্দেশিকাগুলি প্রয়োগ করা অনেক বেশি জটিল এবং অস্পষ্ট।

নীতিশাস্ত্র সংঘর্ষ প্রসঙ্গ

সিলিকন ভ্যালিতে, ব্যবসাগুলি এখনও অন্বেষণ করছে কীভাবে সর্বোত্তমভাবে নৈতিক নীতিগুলিকে অনুশীলনে প্রয়োগ করা যায়, এই প্রশ্নটি জিজ্ঞাসা করা সহ, "নৈতিকতাকে অগ্রাধিকার দিতে কত খরচ হয়?" 2 শে ডিসেম্বর, 2020-এ, গুগলের নৈতিক এআই দলের সহ-প্রধান টিমনিট গেব্রু একটি টুইট পোস্ট করেছেন যে তাকে বরখাস্ত করা হয়েছে। তিনি তার পক্ষপাতিত্ব এবং মুখের স্বীকৃতি গবেষণার জন্য এআই সম্প্রদায়ে ব্যাপকভাবে সম্মানিত ছিলেন। যে ঘটনার কারণে তাকে বরখাস্ত করা হয়েছিল তার সাথে তার সহ-লেখক ছিল এমন একটি কাগজ সম্পর্কিত যা Google সিদ্ধান্ত নিয়েছে যে প্রকাশনার জন্য তাদের মান পূরণ করে না। 

যাইহোক, গেব্রু এবং অন্যরা যুক্তি দেখান যে গুলিবর্ষণ অগ্রগতির পরিবর্তে জনসংযোগের দ্বারা অনুপ্রাণিত হয়েছিল। বরখাস্ত করা হয়েছিল যখন গেব্রু একটি অধ্যয়ন প্রকাশ না করার আদেশ নিয়ে প্রশ্ন তোলেন যে কীভাবে মানুষের ভাষা অনুকরণ করে প্রান্তিক জনগোষ্ঠীর ক্ষতি করতে পারে। 2021 সালের ফেব্রুয়ারিতে, গেব্রুর সহ-লেখক মার্গারেট মিচেলকেও বরখাস্ত করা হয়েছিল। 

গুগল জানিয়েছে যে মিচেল কোম্পানির বাইরে ইলেকট্রনিক ফাইল সরিয়ে কোম্পানির আচরণবিধি এবং নিরাপত্তা নীতি ভঙ্গ করেছে। মিচেল তার বরখাস্তের কারণ সম্পর্কে বিস্তারিত বলেননি। এই পদক্ষেপটি সমালোচনার একটি তুষারপাতের জন্ম দেয়, যার ফলে 2021 সালের ফেব্রুয়ারির মধ্যে Google তার বৈচিত্র্য এবং গবেষণা নীতিতে পরিবর্তনের ঘোষণা দেয়। এই ঘটনাটি নৈতিকতার সংঘাত কীভাবে বড় প্রযুক্তি সংস্থাগুলি এবং তাদের কথিত উদ্দেশ্যমূলক গবেষণা বিভাগগুলিকে বিভক্ত করে তার একটি উদাহরণ।

বিঘ্নিত প্রভাব

হার্ভার্ড বিজনেস রিভিউ অনুসারে, ব্যবসার মালিকদের সবচেয়ে বড় চ্যালেঞ্জ হচ্ছে নৈতিক সংকট এবং তাদের কোম্পানি ও শিল্পের অভ্যন্তরীণ চাহিদার প্রতি সাড়া দেওয়ার জন্য বাহ্যিক চাপের মধ্যে ভারসাম্য খুঁজে বের করা। বাহ্যিক সমালোচনা কোম্পানিগুলিকে তাদের ব্যবসায়িক অনুশীলনগুলি পুনঃমূল্যায়ন করতে বাধ্য করে৷ যাইহোক, ব্যবস্থাপনা, শিল্প প্রতিযোগিতা এবং ব্যবসাগুলি কীভাবে চালানো উচিত সে সম্পর্কে সাধারণ বাজারের প্রত্যাশার চাপ কখনও কখনও স্থিতাবস্থার পক্ষে কাউন্টারভেলিং প্রণোদনা তৈরি করতে পারে। তদনুসারে, নৈতিক সংঘাত কেবল তখনই বাড়বে যখন সাংস্কৃতিক নিয়ম বিকশিত হয় এবং কোম্পানিগুলি (বিশেষ করে প্রভাবশালী প্রযুক্তি সংস্থাগুলি) নতুন ব্যবসায়িক অনুশীলনের উপর সীমানা চাপিয়ে দেয় যা তারা নতুন রাজস্ব তৈরি করতে পারে।

এই নৈতিক ভারসাম্যের সাথে লড়াই করা কর্পোরেশনগুলির আরেকটি উদাহরণ হল কোম্পানি, মেটা। তার প্রচারিত নৈতিক ত্রুটিগুলি মোকাবেলা করার জন্য, Facebook 2020 সালে একটি স্বাধীন তদারকি বোর্ড গঠন করে, যেখানে বিষয়বস্তু নিয়ন্ত্রণের সিদ্ধান্তগুলি বাতিল করার ক্ষমতা রয়েছে, এমনকি প্রতিষ্ঠাতা মার্ক জুকারবার্গের করা সিদ্ধান্তগুলিও। 2021 সালের জানুয়ারীতে, কমিটি বিতর্কিত বিষয়বস্তুর বিষয়ে তার প্রথম রায় দেয় এবং এটি দেখা বেশিরভাগ ক্ষেত্রে উল্টে দেয়। 

যাইহোক, ফেসবুকে প্রতিদিন কোটি কোটি পোস্ট এবং অসংখ্য বিষয়বস্তুর অভিযোগের সাথে, ওভারসাইট বোর্ড প্রথাগত সরকারের তুলনায় অনেক ধীর গতিতে কাজ করে। তা সত্ত্বেও, বোর্ড কিছু বৈধ সুপারিশ করেছে। 2022 সালে, প্যানেল মেটা প্ল্যাটফর্মগুলিকে ফেসবুকে প্রকাশিত ডক্সিং ইভেন্টগুলির বিরুদ্ধে ক্র্যাক ডাউন করার পরামর্শ দিয়েছিল যাতে ব্যবহারকারীদের প্ল্যাটফর্মে ব্যক্তির বাড়ির ঠিকানাগুলি প্রকাশ্যে পাওয়া গেলেও সেগুলিকে শেয়ার করা থেকে নিষিদ্ধ করে৷ কেন লঙ্ঘন ঘটে এবং কীভাবে সেগুলি পরিচালনা করা হয় তা স্বচ্ছভাবে ব্যাখ্যা করার জন্য ফেসবুক একটি যোগাযোগ চ্যানেল খোলারও পরামর্শ দিয়েছে বোর্ড।

বেসরকারী খাতের নৈতিকতার সংঘর্ষের প্রভাব

বেসরকারী খাতে নৈতিকতার সংঘর্ষের বিস্তৃত প্রভাব অন্তর্ভুক্ত হতে পারে: 

• আরও কোম্পানি তাদের নিজ নিজ ব্যবসায়িক অনুশীলনে নৈতিক নির্দেশিকা বাস্তবায়নের তদারকি করার জন্য স্বাধীন নীতিশাস্ত্র বোর্ড তৈরি করছে।
• প্রযুক্তি গবেষণাকে কীভাবে বাণিজ্যিকীকরণ করা হয়েছে তা নিয়ে একাডেমিয়া থেকে বর্ধিত সমালোচনা আরও সন্দেহজনক অনুশীলন এবং সিস্টেমের দিকে পরিচালিত করেছে।
• কারিগরি সংস্থাগুলি প্রতিভাবান পাবলিক এবং ইউনিভার্সিটি এআই গবেষকদের হেডহান্ট করার কারণে সরকারী সেক্টরের আরও ব্রেন ড্রেন, যথেষ্ট বেতন এবং সুবিধা প্রদান করে।
• সরকারগুলি ক্রমবর্ধমানভাবে সমস্ত সংস্থাগুলিকে তাদের নৈতিক নির্দেশিকা প্রকাশ করতে চায় তারা প্রযুক্তি পরিষেবা সরবরাহ করে বা না করে।
• স্বার্থের দ্বন্দ্বের কারণে বৃহৎ কোম্পানি থেকে আরও স্পষ্টভাষী গবেষকদের বরখাস্ত করা হচ্ছে শুধুমাত্র দ্রুত প্রতিস্থাপন করা হবে।

বিবেচনা করার প্রশ্ন

• ভোক্তারা যে ধরনের পণ্য এবং পরিষেবাগুলি গ্রহণ করে সেই ধরনের নৈতিকতার সংঘর্ষগুলি কীভাবে প্রভাবিত করবে বলে আপনি মনে করেন?
• তাদের প্রযুক্তি গবেষণায় স্বচ্ছতা নিশ্চিত করতে সংস্থাগুলি কী করতে পারে?