Franken-Algorithms: एल्गोरिदम बदमाश गए

• लेखक:
• लेखक नाम

  Quantumrun दूरदर्शिता
• अप्रिल 12, 2023

मेसिन लर्निङ (ML) एल्गोरिदमहरू अझ उन्नत हुँदै जाँदा, तिनीहरू आफैं ठूला डाटासेटहरूमा ढाँचाहरू सिक्न र अनुकूलन गर्न सक्षम हुन्छन्। यो प्रक्रिया, "स्वायत्त शिक्षा" को रूपमा चिनिन्छ, परिणाम एल्गोरिथ्मले निर्णय गर्नको लागि आफ्नै कोड वा नियमहरू उत्पन्न गर्न सक्छ। यसको साथमा समस्या यो हो कि एल्गोरिदम द्वारा उत्पन्न गरिएको कोड मानिसहरूलाई बुझ्न गाह्रो वा असम्भव हुन सक्छ, यसले पूर्वाग्रहहरू पिन गर्न चुनौतीपूर्ण बनाउँछ। 

Franken-एल्गोरिदम सन्दर्भ

Franken-Algorithms ले एल्गोरिदमहरू (कम्प्यूटरहरूले डेटा प्रशोधन गर्दा र आदेशहरूमा प्रतिक्रिया दिँदा पालना गर्ने नियमहरू) लाई जनाउँछ जुन यति जटिल र एकअर्कामा जोडिएको छ कि मानिसहरूले तिनीहरूलाई बुझ्न सक्दैनन्। यो शब्द पागल वैज्ञानिक डा. फ्रैंकनस्टाइन द्वारा बनाईएको "राक्षस" को बारे मा मेरी शेलीको विज्ञान कथाको लागि हो। जबकि एल्गोरिदम र कोडहरू ठूला प्रविधिको निर्माण ब्लकहरू हुन् र फेसबुक र गुगललाई उनीहरू अहिले प्रभावशाली कम्पनीहरू हुन अनुमति दिएका छन्, त्यहाँ अझै पनि प्रविधिको बारेमा धेरै कुराहरू छन् जुन मानिसहरूलाई थाहा छैन। 

जब प्रोग्रामरहरूले कोडहरू बनाउँछन् र तिनीहरूलाई सफ्टवेयर मार्फत चलाउँछन्, ML ले कम्प्युटरहरूलाई ढाँचाहरू बुझ्न र भविष्यवाणी गर्न अनुमति दिन्छ। जबकि ठूला प्रविधिले एल्गोरिदमहरू वस्तुनिष्ठ छन् भन्ने दाबी गर्दछ किनभने मानव भावना र अप्रत्याशितताले उनीहरूलाई प्रभाव पार्दैन, यी एल्गोरिदमहरू विकसित हुन सक्छन् र आफ्नै नियमहरू लेख्न सक्छन्, जसले विनाशकारी परिणामहरू निम्त्याउँछ। यी एल्गोरिदमहरूद्वारा उत्पन्न गरिएको कोड प्रायः जटिल र अपारदर्शी हुन्छ, जसले गर्दा शोधकर्ताहरू वा व्यवसायीहरूलाई एल्गोरिदमका निर्णयहरूको व्याख्या गर्न वा एल्गोरिदमको निर्णय प्रक्रियामा उपस्थित हुन सक्ने कुनै पनि पूर्वाग्रहहरू पहिचान गर्न गाह्रो हुन्छ। यो रोडब्लकले निर्णयहरू गर्न यी एल्गोरिदमहरूमा भर परेका व्यवसायहरूका लागि महत्त्वपूर्ण चुनौतीहरू सिर्जना गर्न सक्छ, किनकि तिनीहरूले ती निर्णयहरूको पछाडिको तर्क बुझ्न वा व्याख्या गर्न असमर्थ हुन सक्छन्।

विघटनकारी प्रभाव

जब Franken-Algorithms दुष्ट जान्छ, यो जीवन र मृत्युको कुरा हुन सक्छ। एउटा उदाहरण 2018 मा दुर्घटना थियो जब एरिजोनामा सेल्फ ड्राइभिङ कारले बाइक सवार एक महिलालाई ठक्कर दियो। कारको एल्गोरिदमले उनलाई मानवको रूपमा सही रूपमा पहिचान गर्न सकेन। विज्ञहरू दुर्घटनाको मूल कारणमा च्यातिएका थिए - के कार अनुचित रूपमा प्रोग्राम गरिएको थियो, र के एल्गोरिथ्म आफ्नै राम्रोको लागि धेरै जटिल भयो? प्रोग्रामरहरूले के मा सहमत हुन सक्छन्, तथापि, सफ्टवेयर कम्पनीहरूको लागि एक निरीक्षण प्रणाली हुनु आवश्यक छ - नैतिकताको कोड। 

यद्यपि, यो नैतिकता कोड ठूला प्रविधिबाट केही पुशब्याकको साथ आउँदछ किनभने तिनीहरू डेटा र एल्गोरिदमहरू बेच्ने व्यवसायमा छन्, र विनियमित हुन वा पारदर्शी हुन आवश्यक पर्दैन। थप रूपमा, भर्खरैको विकास जसले ठूला प्राविधिक कर्मचारीहरूका लागि चिन्ता उत्पन्न गरेको छ सेना भित्र एल्गोरिदमको बढ्दो प्रयोग हो, जस्तै स्वायत्त ड्रोनहरू जस्ता सैन्य प्रविधिमा एल्गोरिदमहरू समावेश गर्न अमेरिकी रक्षा विभागसँग गुगलको साझेदारी। यो एप्लिकेसनले केही कर्मचारीहरूलाई राजीनामा दियो र विशेषज्ञहरूले चिन्ता व्यक्त गरे कि एल्गोरिदमहरू अझै पनि मार्ने मेसिनको रूपमा प्रयोग गर्न अप्रत्याशित छन्। 

अर्को चिन्ता यो हो कि फ्र्यान्केन-एल्गोरिदमहरूले उनीहरूलाई तालिम दिइएका डेटासेटहरूको कारणले कायम राख्न र पूर्वाग्रहहरूलाई विस्तार गर्न सक्छ। यस प्रक्रियाले भेदभाव, असमानता, र गलत गिरफ्तारी सहित विभिन्न सामाजिक मुद्दाहरू निम्त्याउन सक्छ। यी बढ्दो जोखिमहरूको कारण, धेरै प्राविधिक कम्पनीहरूले आफ्ना एल्गोरिदमहरू कसरी विकास, प्रयोग र अनुगमन गर्छन् भन्ने बारे पारदर्शी हुन आफ्ना नैतिक एआई दिशानिर्देशहरू प्रकाशित गर्न थालेका छन्।

Franken-Algorithms को लागि व्यापक प्रभाव

Franken-Algorithms को लागि सम्भावित प्रभावहरू समावेश हुन सक्छ:

• उत्तरदायित्व र सुरक्षाको बारेमा चिन्ता बढाउँदै, मानव निरीक्षण बिना निर्णय गर्न र कार्यहरू गर्न सक्ने स्वायत्त प्रणालीहरूको विकास। यद्यपि, त्यस्ता एल्गोरिदमहरूले सफ्टवेयर र रोबोटिक्सको विकासको लागत घटाउन सक्छ जसले अधिकांश उद्योगहरूमा मानव श्रमलाई स्वचालित बनाउन सक्छ। 
• एल्गोरिदमले सैन्य प्रविधिलाई कसरी स्वचालित गर्न सक्छ र स्वायत्त हतियार र सवारी साधनहरूलाई समर्थन गर्न सक्छ भन्ने बारे थप छानबिन।
• नैतिकता र नियमहरूको एल्गोरिथ्म कोड लागू गर्न सरकार र उद्योगका नेताहरूलाई बढ्दो दबाब।
• फ्र्याङ्केन-एल्गोरिदमले कम आय भएका समुदाय वा अल्पसंख्यक जनसंख्या जस्ता निश्चित जनसांख्यिकीय समूहहरूलाई असमान रूपमा प्रभाव पार्छ।
• फ्र्याङ्केन-एल्गोरिदमहरूले भेदभाव र पूर्वाग्रहलाई कायम राख्न र विस्तार गर्न सक्छन्, जस्तै भर्ती र ऋण दिने निर्णयहरू।
• यी एल्गोरिदमहरू साइबर अपराधीहरूले प्रणालीहरूमा, विशेष गरी वित्तीय संस्थाहरूमा कमजोरीहरूको अनुगमन र शोषण गर्न प्रयोग गरिरहेका छन्।
• जनमतलाई प्रभाव पार्ने र चुनावलाई प्रभाव पार्न सक्ने तरिकामा जनरेटिभ एआई प्रणालीहरू प्रयोग गरेर मार्केटिङ अभियानहरूलाई स्वचालित बनाउन दुष्ट एल्गोरिदमहरू प्रयोग गर्ने राजनीतिक अभिनेताहरू।

विचार गर्न प्रश्नहरु

• भविष्यमा एल्गोरिदमको थप विकास कसरी हुन्छ जस्तो लाग्छ?
• Franken-Algorithms नियन्त्रण गर्न सरकार र कम्पनीहरूले के गर्न सक्छन्?