एआई पङ्क्तिबद्धता: मिल्दो कृत्रिम बुद्धिमत्ता लक्ष्यहरू मानव मूल्यहरूसँग मेल खान्छ
एआई पङ्क्तिबद्धता: मिल्दो कृत्रिम बुद्धिमत्ता लक्ष्यहरू मानव मूल्यहरूसँग मेल खान्छ
एआई पङ्क्तिबद्धता: मिल्दो कृत्रिम बुद्धिमत्ता लक्ष्यहरू मानव मूल्यहरूसँग मेल खान्छ
- लेखक:
- जनवरी 25, 2023
कृत्रिम बुद्धिमत्ता (एआई) पङ्क्तिबद्धता भनेको एआई प्रणालीको लक्ष्यहरू मानव मूल्यहरूसँग मेल खान्छ। OpenAI, DeepMind, र Anthropic जस्ता कम्पनीहरूसँग अनुसन्धानकर्ताहरूको टोलीहरू छन् जसको एकमात्र फोकस विभिन्न परिदृश्यहरूको लागि रेलिङहरू अध्ययन गर्नु हो जहाँ यो हुन सक्छ।
एआई पङ्क्तिबद्ध सन्दर्भ
२०२१ को कर्नेल विश्वविद्यालयको अनुसन्धान अध्ययनका अनुसार, धेरै अध्ययनहरूले देखाएको छ कि एल्गोरिदमहरूद्वारा सिर्जना गरिएका उपकरण वा मोडेलहरूले उनीहरूलाई तालिम दिइएको डेटाबाट प्राप्त पूर्वाग्रह देखाउँछन्। उदाहरणका लागि, प्राकृतिक भाषा प्रशोधन (NLP) मा, सीमित डेटा सेटहरूमा प्रशिक्षित NLP मोडेलहरू महिलाहरू विरुद्ध हानिकारक लैङ्गिक स्टिरियोटाइपहरूमा आधारित भविष्यवाणीहरू दस्तावेज गरिएको छ। त्यसै गरी, अन्य अध्ययनहरूले फेला पारे कि छेडछाड गरिएको डेटा सेटमा प्रशिक्षित एल्गोरिदमहरूले जातीय पक्षपाती सिफारिसहरू, विशेष गरी पुलिसिङमा परिणामहरू पाए।
त्यहाँ धेरै उदाहरणहरू छन् जसमा मेसिन लर्निङ प्रणालीले अल्पसंख्यकहरू वा बहुविध बेफाइदाहरूबाट पीडित समूहहरूका लागि नराम्रो काम गरेको छ। विशेष गरी, स्वचालित अनुहार विश्लेषण र स्वास्थ्य सेवा निदान सामान्यतया महिला र रंग को मान्छे को लागी धेरै राम्रो काम गर्दैन। जब आलोचनात्मक प्रणालीहरू जुन भावनाको सट्टा तथ्य र तर्कमा आधारित हुनुपर्छ स्वास्थ्य सेवा वा शिक्षा विनियोजन जस्ता सन्दर्भहरूमा प्रयोग गरिन्छ, तिनीहरूले यी सिफारिसहरूको पछाडि तर्क पहिचान गर्न गाह्रो बनाएर थप क्षति गर्न सक्छन्।
फलस्वरूप, प्राविधिक फर्महरूले एल्गोरिदमहरू निष्पक्ष र मानवीय राख्नमा ध्यान केन्द्रित गर्न एआई पङ्क्तिबद्ध टोलीहरू सिर्जना गर्दैछन्। उन्नत AI प्रणालीहरूको दिशा बुझ्नको लागि अनुसन्धान आवश्यक छ, साथै AI क्षमताहरू बढ्दै जाँदा हामीले सामना गर्न सक्ने चुनौतीहरू।
विघटनकारी प्रभाव
ओपनएआई (२०२१) मा एआई अलाइनमेन्टका प्रमुख जान लेइकका अनुसार एआई प्रणालीहरू २०१० को दशकमा मात्र सक्षम भएका छन्, यो बुझिन्छ कि अधिकांश एआई अलाइनमेन्ट अनुसन्धान सिद्धान्त-भारी भएको छ। जब धेरै शक्तिशाली एआई प्रणालीहरू पङ्क्तिबद्ध हुन्छन्, मानिसहरूले सामना गर्ने चुनौतीहरू मध्ये एउटा यो हो कि यी मेसिनहरूले समाधानहरू सिर्जना गर्न सक्छन् जुन समीक्षा गर्न र मूल्याङ्कन गर्न धेरै जटिल छन् यदि तिनीहरू नैतिक रूपमा अर्थ राख्छन्।
Leike ले यो समस्या समाधान गर्न पुनरावर्ती इनाम मोडलिङ (RRM) रणनीति बनायो। RRM को साथ, धेरै "सहायक" AIs लाई मानवलाई अझ जटिल AI ले कत्तिको राम्रो प्रदर्शन गर्छ भनेर मूल्याङ्कन गर्न मद्दत गर्न सिकाइन्छ। उहाँ "पङ्क्तिबद्ध MVP" को रूपमा उल्लेख गर्ने केहि सिर्जना गर्ने सम्भावनाको बारेमा आशावादी हुनुहुन्छ। स्टार्टअप सर्तहरूमा, एक MVP (वा न्यूनतम व्यवहार्य उत्पादन) एक कम्पनीले एक विचार परीक्षण गर्न निर्माण गर्न सक्ने सबैभन्दा सरल सम्भव उत्पादन हो। आशा छ कि कुनै दिन, AI ले AI को अनुसन्धानमा मानव कार्यसम्पादनसँग मेल खान्छ र यसको मानहरूसँग पङ्क्तिबद्धता पनि कार्यात्मक हुन्छ।
एआई पङ्क्तिबद्धतामा बढ्दो चासो शुद्ध सकारात्मक भए तापनि यस क्षेत्रका धेरै विश्लेषकहरूले प्रमुख एआई ल्याबहरूमा "नैतिकता" को धेरै काम भनेको प्राविधिक कम्पनीहरूलाई राम्रो देखाउन र नकारात्मक प्रचारबाट बच्नको लागि डिजाइन गरिएको सार्वजनिक सम्बन्ध मात्र हो भनी सोच्छन्। यी व्यक्तिहरूले नैतिक विकास अभ्यासहरू यी कम्पनीहरूका लागि चाँडै नै प्राथमिकतामा पर्ने आशा गर्दैनन्।
यी अवलोकनहरूले मूल्य पङ्क्तिबद्धता प्रयासहरूको लागि अन्तःविषय दृष्टिकोणको महत्त्वलाई हाइलाइट गर्दछ, किनकि यो नैतिक र प्राविधिक अनुसन्धानको अपेक्षाकृत नयाँ क्षेत्र हो। ज्ञानका विभिन्न शाखाहरू समावेशी अनुसन्धान एजेन्डाको हिस्सा हुनुपर्छ। यस पहलले प्राविधिक र नीति निर्माताहरूलाई उनीहरूको सामाजिक सन्दर्भ र सरोकारवालाहरूप्रति सचेत रहन आवश्यक पर्ने कुरालाई पनि औंल्याउँछ, यद्यपि एआई प्रणालीहरू अझ उन्नत हुँदै गएका छन्।
एआई पङ्क्तिबद्धता को प्रभाव
एआई पङ्क्तिबद्धताको व्यापक प्रभावहरू समावेश हुन सक्छन्:
- कृत्रिम बुद्धिमत्ता प्रयोगशालाहरूले परियोजनाहरूको निरीक्षण गर्न र नैतिक AI दिशानिर्देशहरू पूरा गर्न विभिन्न नैतिकता बोर्डहरू भर्ती गर्दछ।
- सरकारहरूले कानूनहरू सिर्जना गर्छन् जसले कम्पनीहरूलाई उनीहरूको जिम्मेवार एआई फ्रेमवर्क पेश गर्न आवश्यक छ र उनीहरूले कसरी उनीहरूको AI परियोजनाहरू थप विकास गर्ने योजना बनाउँछन्।
- भर्ती, सार्वजनिक निगरानी, र कानून प्रवर्तनमा एल्गोरिदमको प्रयोगमा बढेको विवाद।
- नैतिकता र कर्पोरेट लक्ष्यहरू बीचको चासोको द्वन्द्वका कारण अनुसन्धानकर्ताहरूलाई ठूला एआई प्रयोगशालाहरूबाट निकालिएको छ।
- दुबै अविश्वसनीय रूपमा शक्तिशाली तर सम्भावित रूपमा मानव अधिकार उल्लङ्घन गर्न सक्ने उन्नत AI प्रणालीहरूलाई नियमन गर्न सरकारहरूलाई थप दबाब।
टिप्पणी गर्न प्रश्नहरू
- फर्महरूलाई उनीहरूले सिर्जना गर्ने एआई प्रणालीहरूको लागि कसरी जवाफदेही बनाउन सकिन्छ?
- यदि AI गलत संरेखण छ भने अन्य सम्भावित खतराहरू के हुन्?
अन्तरदृष्टि सन्दर्भहरू
निम्न लोकप्रिय र संस्थागत लिङ्कहरू यस अन्तरदृष्टिको लागि सन्दर्भ गरिएको थियो:
