कृत्रिम बुद्धिमत्ता पूर्वाग्रह: मेशिनहरू हामीले आशा गरेजस्तो वस्तुगत छैनन्
कृत्रिम बुद्धिमत्ता पूर्वाग्रह: मेशिनहरू हामीले आशा गरेजस्तो वस्तुगत छैनन्
कृत्रिम बुद्धिमत्ता पूर्वाग्रह: मेशिनहरू हामीले आशा गरेजस्तो वस्तुगत छैनन्
- लेखक:
- फेब्रुअरी 8, 2022
अन्तरदृष्टि सारांश
जबकि डाटा-संचालित प्रविधिहरूले निष्पक्ष समाजको पालनपोषण गर्ने वाचा राख्छन्, तिनीहरू प्रायः समान पूर्वाग्रहहरू प्रतिबिम्बित गर्छन् जुन मानिसहरूले सम्भावित अन्यायहरूलाई निम्त्याउँछन्। उदाहरणका लागि, कृत्रिम बुद्धिमत्ता (एआई) प्रणालीहरूमा पूर्वाग्रहहरूले अनजानमा हानिकारक स्टेरियोटाइपहरू बिग्रन सक्छ। जे होस्, एआई प्रणालीहरूलाई थप समतामूलक बनाउन प्रयासहरू भइरहेका छन्, यद्यपि यसले उपयोगिता र निष्पक्षता बीचको सन्तुलन र प्राविधिक टोलीहरूमा विचारशील नियमन र विविधताको आवश्यकताको बारेमा जटिल प्रश्नहरू खडा गर्छ।
AI पूर्वाग्रह सामान्य सन्दर्भ
आशा छ कि डाटा द्वारा संचालित प्रविधिहरूले मानवतालाई एक समाज स्थापना गर्न मद्दत गर्नेछ जहाँ निष्पक्षता सबैको लागि आदर्श हो। तर, अहिलेको यथार्थले अर्कै चित्र कोरेको छ । विगतमा अन्याय भएका मानिसहरूमा भएका धेरै पूर्वाग्रहहरू अब हाम्रो डिजिटल संसारलाई नियन्त्रण गर्ने एल्गोरिदमहरूमा प्रतिबिम्बित भइरहेका छन्। AI प्रणालीहरूमा यी पूर्वाग्रहहरू प्रायः यी प्रणालीहरू विकास गर्ने व्यक्तिहरूको पूर्वाग्रहबाट उत्पन्न हुन्छन्, र यी पूर्वाग्रहहरू प्रायः तिनीहरूको काममा प्रवेश गर्छन्।
उदाहरणका लागि, २०१२ मा इमेजनेट भनिने एउटा परियोजनालाई लिनुहोस्, जसले मेसिन लर्निङ प्रणालीहरूको प्रशिक्षणको लागि छविहरूको लेबलिङ क्राउडसोर्स गर्न खोज्यो। यस डाटामा प्रशिक्षित ठूलो न्यूरल नेटवर्कले पछि प्रभावशाली सटीकताका साथ वस्तुहरू पहिचान गर्न सक्षम भयो। यद्यपि, नजिकको निरीक्षणमा, शोधकर्ताहरूले ImageNet डाटा भित्र लुकेका पूर्वाग्रहहरू पत्ता लगाए। एउटा विशेष अवस्थामा, यस डेटामा प्रशिक्षित एल्गोरिथ्म सबै सफ्टवेयर प्रोग्रामरहरू सेतो पुरुष हुन् भन्ने धारणाको पक्षपाती थियो।
यो पूर्वाग्रहले सम्भावित रूपमा महिलाहरूलाई भर्ती प्रक्रिया स्वचालित हुँदा त्यस्ता भूमिकाहरूको लागि बेवास्ता गर्न सक्छ। पूर्वाग्रहहरूले डेटा सेटहरूमा आफ्नो बाटो फेला पारे किनभने व्यक्तिले "महिला" को छविहरूमा लेबलहरू थप्ने अतिरिक्त लेबल समावेश गर्दछ जुन अपमानजनक शब्द समावेश गर्दछ। यो उदाहरणले कसरी पूर्वाग्रहहरू, चाहे जानाजानी होस् वा नजानी, सबै भन्दा परिष्कृत एआई प्रणालीहरूमा पनि घुसपैठ गर्न सक्छ, सम्भावित रूपमा हानिकारक स्टिरियोटाइपहरू र असमानताहरू कायम राख्छ भनेर चित्रण गर्दछ।
विघटनकारी प्रभाव
डाटा र एल्गोरिदममा पूर्वाग्रहलाई सम्बोधन गर्ने प्रयासहरू विभिन्न सार्वजनिक र निजी संस्थाहरूमा अनुसन्धानकर्ताहरूद्वारा सुरु गरिएको छ। ImageNet परियोजना को मामला मा, उदाहरण को लागी, क्राउडसोर्सिङ को केहि तस्बिरहरु मा एक अपमानजनक प्रकाश डाल्ने लेबलिंग सर्तहरु को पहिचान र हटाउन को लागी कार्यरत थियो। यी उपायहरूले एआई प्रणालीहरूलाई थप न्यायोचित हुनको लागि पुन: कन्फिगर गर्न सम्भव छ भनेर देखाएको छ।
यद्यपि, केही विशेषज्ञहरूले तर्क गर्छन् कि पूर्वाग्रह हटाउनाले डेटा सेटलाई कम प्रभावकारी बनाउन सक्छ, विशेष गरी जब धेरै पूर्वाग्रहहरू खेलिरहेका हुन्छन्। निश्चित पूर्वाग्रहहरूबाट निकालिएको डेटा सेटले प्रभावकारी प्रयोगको लागि पर्याप्त जानकारीको अभाव हुन सक्छ। यसले वास्तवमै विविध छवि डेटा सेट कस्तो देखिन्छ भन्ने प्रश्न उठाउँछ, र यसको उपयोगितामा सम्झौता नगरी यसलाई कसरी प्रयोग गर्न सकिन्छ।
यो प्रवृतिले एआई र डाटा-संचालित प्रविधिहरूको प्रयोगमा विचारशील दृष्टिकोणको आवश्यकतालाई जोड दिन्छ। कम्पनीहरूको लागि, यसको मतलब पूर्वाग्रह पत्ता लगाउने उपकरणहरूमा लगानी गर्नु र प्राविधिक टोलीहरूमा विविधता प्रवर्द्धन गर्नु हो। सरकारहरूको लागि, यसले AI को उचित प्रयोग सुनिश्चित गर्न नियमहरू लागू गर्न समावेश गर्न सक्छ।
एआई पूर्वाग्रहको प्रभाव
AI पूर्वाग्रहको व्यापक प्रभावहरू समावेश हुन सक्छन्:
- उत्पादकता र कार्यसम्पादनमा सुधार गर्न AI को लाभ उठाउँदै निष्पक्षता र गैर-भेदभाव सुनिश्चित गर्नका लागि संस्थाहरू सक्रिय छन्।
- परियोजनाको प्रारम्भमा नैतिक जोखिमहरू पत्ता लगाउन र कम गर्न विकास टोलीहरूमा एआई नैतिकतावादी हुनु।
- लिङ्ग, जाति, वर्ग, र संस्कृति जस्ता विविधता कारकहरूलाई स्पष्ट रूपमा दिमागमा राखेर एआई उत्पादनहरू डिजाइन गर्दै।
- विभिन्न समूहहरूबाट प्रतिनिधिहरू प्राप्त गर्दै जुन कम्पनीको एआई उत्पादन प्रयोग गरी जारी गर्नु अघि यसलाई परीक्षण गर्न प्रयोग गरिनेछ।
- विभिन्न सार्वजनिक सेवाहरू जनताका निश्चित सदस्यहरूबाट प्रतिबन्धित छन्।
- जनताका केही सदस्यहरू पहुँच गर्न वा निश्चित रोजगारीका अवसरहरूको लागि योग्य हुन असमर्थ छन्।
- कानून प्रवर्तन एजेन्सीहरू र पेशेवरहरूले अनुचित रूपमा समाजका निश्चित सदस्यहरूलाई अरू भन्दा बढी लक्षित गर्छन्।
विचार गर्न प्रश्नहरु
- के तपाई आशावादी हुनुहुन्छ कि स्वचालित निर्णय प्रक्रिया भविष्यमा निष्पक्ष हुनेछ?
- AI निर्णय लिने बारे के तपाईंलाई सबैभन्दा चिन्तित बनाउँछ?
अन्तरदृष्टि सन्दर्भहरू
निम्न लोकप्रिय र संस्थागत लिङ्कहरू यस अन्तरदृष्टिको लागि सन्दर्भ गरिएको थियो:
