फ्रँकेन-अल्गोरिदम: अल्गोरिदम खराब झाले आहेत

• लेखक बद्दल:
• लेखक नाव

  Quantumrun दूरदृष्टी
• एप्रिल 12, 2023

जसजसे मशीन लर्निंग (ML) अल्गोरिदम अधिक प्रगत होत जातात, तसतसे ते मोठ्या डेटासेटमधील पॅटर्न शिकण्यास आणि त्यांच्याशी जुळवून घेण्यास सक्षम होतात. "स्वायत्त शिक्षण" म्हणून ओळखल्या जाणार्‍या या प्रक्रियेचा परिणाम अल्गोरिदम स्वतःचा कोड किंवा निर्णय घेण्यासाठी नियम तयार करू शकतो. यात समस्या अशी आहे की अल्गोरिदमद्वारे व्युत्पन्न केलेला कोड मानवांना समजणे कठीण किंवा अशक्य असू शकते, ज्यामुळे पूर्वाग्रह ओळखणे आव्हानात्मक होते. 

फ्रँकेन-अल्गोरिदम संदर्भ

फ्रँकेन-अल्गोरिदम अल्गोरिदमचा संदर्भ घेतात (डेटा प्रक्रिया करताना आणि आदेशांना प्रतिसाद देताना संगणक पाळणारे नियम) जे इतके गुंतागुंतीचे आणि एकमेकांशी जोडलेले आहेत की मानव आता त्यांचा उलगडा करू शकत नाहीत. हा शब्द मॅरी शेलीच्या "अक्राळविक्राळ" बद्दलच्या विज्ञान कल्पनेला मान्यता देणारा आहे, जो वेडा शास्त्रज्ञ डॉ. फ्रँकेन्स्टाईन यांनी तयार केला आहे. अल्गोरिदम आणि कोड हे मोठ्या तंत्रज्ञानाचे बिल्डिंग ब्लॉक्स आहेत आणि त्यांनी Facebook आणि Google यांना आता प्रभावशाली कंपन्या बनविण्याची परवानगी दिली आहे, तरीही तंत्रज्ञानाबद्दल बरेच काही आहे जे मानवांना माहित नाही. 

जेव्हा प्रोग्रामर कोड तयार करतात आणि त्यांना सॉफ्टवेअरद्वारे चालवतात, तेव्हा ML संगणकांना पॅटर्न समजून घेण्यास आणि अंदाज लावण्यास अनुमती देते. मोठ्या तंत्रज्ञानाचा दावा आहे की अल्गोरिदम वस्तुनिष्ठ आहेत कारण मानवी भावना आणि अप्रत्याशितता त्यांच्यावर प्रभाव पाडत नाहीत, हे अल्गोरिदम विकसित होऊ शकतात आणि त्यांचे स्वतःचे नियम लिहू शकतात, ज्यामुळे विनाशकारी परिणाम होतात. या अल्गोरिदमद्वारे व्युत्पन्न केलेला कोड अनेकदा गुंतागुंतीचा आणि अपारदर्शक असतो, ज्यामुळे संशोधक किंवा अभ्यासकांना अल्गोरिदमच्या निर्णयांचा अर्थ लावणे किंवा अल्गोरिदमच्या निर्णय प्रक्रियेत उपस्थित असणारे कोणतेही पूर्वग्रह ओळखणे कठीण होते. हा अडथळा निर्णय घेण्यासाठी या अल्गोरिदमवर अवलंबून असलेल्या व्यवसायांसाठी महत्त्वपूर्ण आव्हाने निर्माण करू शकतो, कारण ते त्या निर्णयांमागील तर्क समजण्यास किंवा स्पष्ट करण्यात अक्षम असू शकतात.

व्यत्यय आणणारा प्रभाव

जेव्हा फ्रँकेन-अल्गोरिदम खराब होतात, तेव्हा ती जीवन आणि मृत्यूची बाब असू शकते. 2018 मध्ये अॅरिझोनामध्ये एका सेल्फ-ड्रायव्हिंग कारने बाईक चालवणाऱ्या एका महिलेला धडक देऊन ठार केल्यामुळे झालेला अपघात हे त्याचे उदाहरण आहे. कारचे अल्गोरिदम तिला मानव म्हणून योग्यरित्या ओळखण्यात अक्षम होते. अपघाताच्या मूळ कारणावर तज्ञ फाटले होते-कार अयोग्यरित्या प्रोग्राम केली गेली होती आणि अल्गोरिदम स्वतःच्या फायद्यासाठी खूप गुंतागुंतीचा झाला होता का? प्रोग्रामर कशावर सहमत होऊ शकतात, तथापि, सॉफ्टवेअर कंपन्यांसाठी एक देखरेख प्रणाली असणे आवश्यक आहे—एक आचारसंहिता. 

तथापि, हा आचार संहिता मोठ्या तंत्रज्ञानाच्या काही पुशबॅकसह येतो कारण ते डेटा आणि अल्गोरिदम विकण्याच्या व्यवसायात आहेत आणि नियमन करणे किंवा पारदर्शक असणे आवश्यक नाही. याव्यतिरिक्त, अलीकडील विकास ज्याने मोठ्या टेक कर्मचार्‍यांसाठी चिंतेचे कारण बनवले आहे ते म्हणजे सैन्यात अल्गोरिदमचा वाढता वापर, जसे की स्वायत्त ड्रोन सारख्या लष्करी तंत्रज्ञानामध्ये अल्गोरिदम समाविष्ट करण्यासाठी यूएस डिपार्टमेंट ऑफ डिफेन्ससह Google ची भागीदारी. या ऍप्लिकेशनमुळे काही कर्मचार्‍यांनी राजीनामा दिला आहे आणि तज्ञांनी चिंता व्यक्त केली आहे की अल्गोरिदम अजूनही किलिंग मशीन म्हणून वापरण्यासाठी खूप अप्रत्याशित आहेत. 

दुसरी चिंतेची बाब अशी आहे की फ्रँकेन-अल्गोरिदम त्यांना प्रशिक्षित केलेल्या डेटासेटमुळे पूर्वाग्रह कायम ठेवू शकतात आणि वाढवू शकतात. या प्रक्रियेमुळे भेदभाव, असमानता आणि चुकीच्या अटकेसह विविध सामाजिक समस्या उद्भवू शकतात. या वाढलेल्या जोखमींमुळे, अनेक टेक कंपन्या त्यांचे अल्गोरिदम कसे विकसित करतात, वापरतात आणि त्यांचे निरीक्षण करतात याबद्दल पारदर्शक राहण्यासाठी त्यांची नैतिक AI मार्गदर्शक तत्त्वे प्रकाशित करण्यास सुरुवात करत आहेत.

फ्रँकेन-अल्गोरिदमसाठी व्यापक परिणाम

फ्रँकेन-अल्गोरिदमच्या संभाव्य परिणामांमध्ये हे समाविष्ट असू शकते:

• उत्तरदायित्व आणि सुरक्षिततेबद्दल चिंता वाढवून, मानवी निरीक्षणाशिवाय निर्णय घेऊ शकतील आणि कृती करू शकतील अशा स्वायत्त प्रणालींचा विकास. तथापि, अशा अल्गोरिदममुळे बहुतेक उद्योगांमध्ये मानवी श्रम स्वयंचलित करू शकणारे सॉफ्टवेअर आणि रोबोटिक्स विकसित करण्याच्या खर्चात घट होऊ शकते. 
• अल्गोरिदम लष्करी तंत्रज्ञान स्वयंचलित कसे करू शकतात आणि स्वायत्त शस्त्रे आणि वाहनांना समर्थन कसे देऊ शकतात यावर अधिक छाननी.
• नैतिकता आणि नियमांचे अल्गोरिदम कोड लागू करण्यासाठी सरकार आणि उद्योग नेत्यांवर दबाव वाढला.
• फ्रँकेन-अल्गोरिदम कमी-उत्पन्न समुदाय किंवा अल्पसंख्याक लोकसंख्येसारख्या विशिष्ट लोकसंख्याशास्त्रीय गटांवर असमानतेने परिणाम करतात.
• फ्रँकेन-अल्गोरिदम कायमस्वरूपी ठेवू शकतात आणि निर्णय घेण्यामध्ये भेदभाव आणि पूर्वाग्रह वाढवू शकतात, जसे की नियुक्ती आणि कर्ज देणे.
• हे अल्गोरिदम सायबर गुन्हेगारांद्वारे सिस्टममधील, विशेषतः वित्तीय संस्थांमधील कमकुवततेचे परीक्षण आणि शोषण करण्यासाठी वापरले जातात.
• जनरेटिव्ह एआय सिस्टीमचा वापर करून सार्वजनिक मतांवर प्रभाव टाकू शकतील आणि निवडणुकांवर प्रभाव टाकू शकतील अशा प्रकारे विपणन मोहिमा स्वयंचलित करण्यासाठी रॉग अल्गोरिदम वापरणारे राजकीय कलाकार.

विचारात घेण्यासारखे प्रश्न

• भविष्यात अल्गोरिदम आणखी विकसित होतील असे तुम्हाला वाटते?
• फ्रँकेन-अल्गोरिदम नियंत्रित करण्यासाठी सरकार आणि कंपन्या काय करू शकतात?