आर्टिफिशियल इंटेलिजेंस पूर्वाग्रह मशीनें उद्देश्यपूर्ण नहीं हैं जिनकी हमें उम्मीद थी

इमेज क्रेडिट:

iStock

आर्टिफिशियल इंटेलिजेंस पूर्वाग्रह: मशीनें उतनी उद्देश्यपूर्ण नहीं हैं जितनी हमें उम्मीद थी

सभी सहमत हैं कि एआई को निष्पक्ष होना चाहिए, लेकिन पूर्वाग्रहों को दूर करना समस्याग्रस्त साबित हो रहा है

लेखक:
लेखक का नाम
क्वांटमरन दूरदर्शिता
फ़रवरी 8, 2022

अंतर्दृष्टि सारांश

जबकि डेटा-संचालित प्रौद्योगिकियाँ एक निष्पक्ष समाज को बढ़ावा देने का वादा करती हैं, वे अक्सर उन्हीं पूर्वाग्रहों को प्रतिबिंबित करती हैं जो मनुष्य पालते हैं, जिससे संभावित अन्याय होता है। उदाहरण के लिए, कृत्रिम बुद्धिमत्ता (एआई) प्रणालियों में पूर्वाग्रह अनजाने में हानिकारक रूढ़िवादिता को खराब कर सकते हैं। हालाँकि, एआई सिस्टम को अधिक न्यायसंगत बनाने के प्रयास चल रहे हैं, हालांकि यह उपयोगिता और निष्पक्षता के बीच संतुलन और तकनीकी टीमों में विचारशील विनियमन और विविधता की आवश्यकता के बारे में जटिल प्रश्न उठाता है।

एआई पूर्वाग्रह सामान्य संदर्भ

आशा है कि डेटा द्वारा संचालित प्रौद्योगिकियां एक ऐसे समाज की स्थापना में मानवता की सहायता करेंगी जहां निष्पक्षता सभी के लिए आदर्श है। हालाँकि, वर्तमान वास्तविकता एक अलग तस्वीर पेश करती है। इंसानों में मौजूद कई पूर्वाग्रह, जिनके कारण अतीत में अन्याय हुआ था, अब उन एल्गोरिदम में प्रतिबिंबित हो रहे हैं जो हमारी डिजिटल दुनिया को नियंत्रित करते हैं। एआई प्रणालियों में ये पूर्वाग्रह अक्सर उन व्यक्तियों के पूर्वाग्रहों से उत्पन्न होते हैं जो इन प्रणालियों को विकसित करते हैं, और ये पूर्वाग्रह अक्सर उनके काम में घुस जाते हैं।

उदाहरण के लिए, 2012 में इमेजनेट नामक एक परियोजना को लें, जिसमें मशीन लर्निंग सिस्टम के प्रशिक्षण के लिए छवियों की लेबलिंग को क्राउडसोर्स करने की मांग की गई थी। इस डेटा पर प्रशिक्षित एक बड़ा तंत्रिका नेटवर्क बाद में प्रभावशाली सटीकता के साथ वस्तुओं की पहचान करने में सक्षम था। हालाँकि, करीब से निरीक्षण करने पर, शोधकर्ताओं ने इमेजनेट डेटा के भीतर छिपे पूर्वाग्रहों की खोज की। एक विशेष मामले में, इस डेटा पर प्रशिक्षित एक एल्गोरिदम इस धारणा के प्रति पक्षपाती था कि सभी सॉफ्टवेयर प्रोग्रामर श्वेत व्यक्ति हैं।

जब नियुक्ति प्रक्रिया स्वचालित हो जाती है तो इस पूर्वाग्रह के परिणामस्वरूप संभावित रूप से ऐसी भूमिकाओं के लिए महिलाओं की अनदेखी की जा सकती है। पूर्वाग्रहों ने डेटा सेट में अपना रास्ता खोज लिया क्योंकि "महिला" की छवियों में लेबल जोड़ने वाले व्यक्ति में एक अतिरिक्त लेबल शामिल था जिसमें अपमानजनक शब्द शामिल था। यह उदाहरण दिखाता है कि कैसे पूर्वाग्रह, चाहे जानबूझकर या अनजाने में, सबसे परिष्कृत एआई सिस्टम में भी घुसपैठ कर सकते हैं, संभावित रूप से हानिकारक रूढ़िवादिता और असमानताओं को कायम रख सकते हैं।

विघटनकारी प्रभाव

विभिन्न सार्वजनिक और निजी संगठनों के शोधकर्ताओं द्वारा डेटा और एल्गोरिदम में पूर्वाग्रह को संबोधित करने के प्रयास शुरू किए गए हैं। उदाहरण के लिए, इमेजनेट प्रोजेक्ट के मामले में, कुछ छवियों पर अपमानजनक प्रकाश डालने वाले लेबलिंग शब्दों की पहचान करने और उन्हें खत्म करने के लिए क्राउडसोर्सिंग को नियोजित किया गया था। इन उपायों से पता चला कि एआई सिस्टम को अधिक न्यायसंगत बनाने के लिए पुन: कॉन्फ़िगर करना वास्तव में संभव है।

हालाँकि, कुछ विशेषज्ञों का तर्क है कि पूर्वाग्रह को हटाने से डेटा सेट संभावित रूप से कम प्रभावी हो सकता है, खासकर जब कई पूर्वाग्रह काम कर रहे हों। कुछ पूर्वाग्रहों से मुक्त किए गए डेटा सेट में प्रभावी उपयोग के लिए पर्याप्त जानकारी का अभाव हो सकता है। यह सवाल उठाता है कि वास्तव में विविध छवि डेटा सेट कैसा दिखेगा, और इसकी उपयोगिता से समझौता किए बिना इसका उपयोग कैसे किया जा सकता है।

यह प्रवृत्ति एआई और डेटा-संचालित प्रौद्योगिकियों के उपयोग के लिए एक विचारशील दृष्टिकोण की आवश्यकता को रेखांकित करती है। कंपनियों के लिए, इसका मतलब पूर्वाग्रह-पहचान उपकरणों में निवेश करना और तकनीकी टीमों में विविधता को बढ़ावा देना हो सकता है। सरकारों के लिए, इसमें एआई का उचित उपयोग सुनिश्चित करने के लिए नियमों को लागू करना शामिल हो सकता है।

एआई पूर्वाग्रह के निहितार्थ

एआई पूर्वाग्रह के व्यापक निहितार्थों में शामिल हो सकते हैं:

संगठन निष्पक्षता और गैर-भेदभाव सुनिश्चित करने में सक्रिय हैं क्योंकि वे उत्पादकता और प्रदर्शन में सुधार के लिए एआई का लाभ उठाते हैं।
एक परियोजना में नैतिक जोखिमों का पता लगाने और उन्हें कम करने के लिए विकास टीमों में एआई नैतिकतावादी होना।
लिंग, जाति, वर्ग और संस्कृति जैसे विविधता कारकों के साथ AI उत्पादों को स्पष्ट रूप से दिमाग में डिजाइन करना।
विभिन्न समूहों के प्रतिनिधियों को प्राप्त करना जो किसी कंपनी के एआई उत्पाद को जारी करने से पहले उसका परीक्षण करने के लिए उपयोग करेंगे।
विभिन्न सार्वजनिक सेवाओं को जनता के कुछ सदस्यों से प्रतिबंधित किया जा रहा है।
जनता के कुछ सदस्य नौकरी के कुछ अवसरों तक पहुँचने या योग्यता प्राप्त करने में असमर्थ हैं।
कानून प्रवर्तन एजेंसियां और पेशेवर समाज के कुछ सदस्यों को दूसरों की तुलना में गलत तरीके से लक्षित कर रहे हैं।