एआई टीआरआईएसएम: यह सुनिश्चित करना कि एआई नैतिक बना रहे

• लेखक:
• लेखक का नाम

  क्वांटमरन दूरदर्शिता
• अक्टूबर 20

अंतर्दृष्टि सारांश

2022 में, अनुसंधान फर्म गार्टनर ने एआई मॉडल के प्रशासन और विश्वसनीयता को सुनिश्चित करने के लिए एआई ट्रस्ट, जोखिम और सुरक्षा प्रबंधन के लिए एआई टीआरआईएसएम की शुरुआत की। ढांचे में पांच स्तंभ शामिल हैं: व्याख्यात्मकता, मॉडल संचालन, डेटा विसंगति का पता लगाना, प्रतिकूल हमलों का प्रतिरोध और डेटा सुरक्षा। रिपोर्ट इस बात पर प्रकाश डालती है कि एआई जोखिमों के खराब प्रबंधन से महत्वपूर्ण नुकसान और सुरक्षा उल्लंघन हो सकते हैं। एआई टीआरआईएसएम को लागू करने के लिए कानूनी, अनुपालन, आईटी और डेटा एनालिटिक्स से एक क्रॉस-फ़ंक्शनल टीम की आवश्यकता होती है। ढांचे का उद्देश्य नैतिक और कानूनी चिंताओं पर ध्यान केंद्रित करते हुए "जिम्मेदार एआई" की संस्कृति का निर्माण करना है, और एआई में भर्ती के रुझान, सरकारी नियमों और नैतिक विचारों को प्रभावित करने की संभावना है।

एआई टीआरआईएसएम संदर्भ

गार्टनर के अनुसार, एआई ट्राइएसएम के पांच स्तंभ हैं: व्याख्यात्मकता, मॉडल संचालन (मॉडलऑप्स), डेटा विसंगति का पता लगाना, प्रतिकूल हमले का प्रतिरोध और डेटा सुरक्षा। गार्टनर के अनुमानों के आधार पर, इन स्तंभों को लागू करने वाले संगठन 50 तक अपनाने, व्यावसायिक उद्देश्यों और उपयोगकर्ता स्वीकृति के संबंध में अपने एआई मॉडल प्रदर्शन में 2026 प्रतिशत की वृद्धि देखेंगे। इसके अतिरिक्त, एआई-संचालित मशीनें दुनिया के 20 प्रतिशत कार्यबल का निर्माण करेंगी। और 40 तक कुल आर्थिक उत्पादकता में 2028 प्रतिशत का योगदान देगा।

गार्टनर के सर्वेक्षण के निष्कर्षों से पता चलता है कि कई संगठनों ने सैकड़ों या हजारों एआई मॉडल लागू किए हैं जिन्हें आईटी अधिकारी समझ या व्याख्या नहीं कर सकते हैं। जो संगठन एआई से संबंधित जोखिमों का पर्याप्त रूप से प्रबंधन नहीं करते हैं, उनमें प्रतिकूल परिणामों और उल्लंघनों का सामना करने की संभावना काफी अधिक होती है। हो सकता है कि मॉडल अपेक्षानुसार कार्य न करें, जिससे सुरक्षा और गोपनीयता का उल्लंघन हो सकता है, और वित्तीय, व्यक्तिगत और प्रतिष्ठा को नुकसान हो सकता है। एआई के गलत कार्यान्वयन के कारण भी संगठन गलत व्यावसायिक निर्णय ले सकते हैं।

एआई टीआरआईएसएम को सफलतापूर्वक लागू करने के लिए कानूनी, अनुपालन, सुरक्षा, आईटी और डेटा एनालिटिक्स कर्मियों की एक क्रॉस-फ़ंक्शनल टीम की आवश्यकता है। एआई परियोजना में शामिल प्रत्येक व्यावसायिक क्षेत्र से उचित प्रतिनिधित्व के साथ एक समर्पित टीम या टास्क फोर्स की स्थापना से भी इष्टतम परिणाम मिलेंगे। यह सुनिश्चित करना भी आवश्यक है कि टीम का प्रत्येक सदस्य अपनी भूमिकाओं और जिम्मेदारियों के साथ-साथ एआई टीआरआईएसएम पहल के लक्ष्यों और उद्देश्यों को स्पष्ट रूप से समझता है।

विघटनकारी प्रभाव

एआई को सुरक्षित बनाने के लिए गार्टनर कई महत्वपूर्ण कदमों की सिफारिश करता है। सबसे पहले, संगठनों को एआई से जुड़े संभावित जोखिमों को समझना होगा और उन्हें कैसे कम करना है। इस प्रयास के लिए एक व्यापक जोखिम मूल्यांकन की आवश्यकता है जो न केवल प्रौद्योगिकी बल्कि लोगों, प्रक्रियाओं और पर्यावरण पर इसके प्रभाव पर भी विचार करता है।

दूसरा, संगठनों को एआई प्रशासन में निवेश करने की आवश्यकता है, जिसमें एआई जोखिमों के प्रबंधन के लिए नीतियां, प्रक्रियाएं और नियंत्रण शामिल हैं। इस रणनीति में यह सुनिश्चित करना शामिल है कि एआई सिस्टम पारदर्शी, व्याख्या योग्य, जवाबदेह हैं और प्रासंगिक कानूनों और विनियमों का अनुपालन करते हैं। इसके अतिरिक्त, समय के साथ उत्पन्न होने वाले किसी भी संभावित जोखिम की पहचान करने और उसे कम करने के लिए एआई मॉडल की निरंतर निगरानी और ऑडिटिंग महत्वपूर्ण है। अंत में, संगठनों को कर्मचारियों और हितधारकों के बीच जागरूकता, शिक्षा और प्रशिक्षण को बढ़ावा देते हुए एआई सुरक्षा की संस्कृति विकसित करने की आवश्यकता है। इन कदमों में एआई के नैतिक उपयोग, एआई से जुड़े जोखिमों और मुद्दों या चिंताओं की पहचान और रिपोर्ट करने के तरीके पर प्रशिक्षण शामिल है। 

इन प्रयासों के परिणामस्वरूप संभवतः अधिक कंपनियां अपने जिम्मेदार एआई विभाग का निर्माण करेंगी। यह उभरता हुआ शासन ढांचा एआई से संबंधित कानूनी और नैतिक बाधाओं का दस्तावेजीकरण करके संबोधित करता है कि संगठन उनसे कैसे संपर्क करते हैं। ढांचा और उससे जुड़ी पहलें अनपेक्षित नकारात्मक परिणामों को रोकने के लिए अस्पष्टता को खत्म करना चाहती हैं। एक जिम्मेदार एआई ढांचे के सिद्धांत एआई को डिजाइन करने, विकसित करने और उपयोग करने पर ध्यान केंद्रित करते हैं जिससे कर्मचारियों को लाभ हो, ग्राहकों को मूल्य प्रदान हो और समाज पर सकारात्मक प्रभाव पड़े।

एआई टीआरआईएसएम के निहितार्थ

AI TRiSM के व्यापक निहितार्थों में शामिल हो सकते हैं: 

• जैसे-जैसे एआई टीआरआईएसएम तेजी से महत्वपूर्ण होता जा रहा है, कंपनियों को इस क्षेत्र के जानकार अधिक कुशल श्रमिकों, जैसे एआई सुरक्षा विश्लेषकों, जोखिम प्रबंधकों और नैतिकतावादियों को नियुक्त करने की आवश्यकता होगी।
• नए नैतिक और नैतिक विचार, जैसे एआई सिस्टम का उपयोग करने में पारदर्शिता, निष्पक्षता और जवाबदेही की आवश्यकता।
• एआई-संवर्धित नवाचार जो सुरक्षित, भरोसेमंद और विश्वसनीय हैं।
• व्यक्तियों और संगठनों को एआई सिस्टम से जुड़े जोखिमों से बचाने के लिए सरकारी विनियमन पर दबाव बढ़ा।
• यह सुनिश्चित करने पर अधिक ध्यान दिया जाना चाहिए कि एआई सिस्टम विशेष समूहों या व्यक्तियों के प्रति पक्षपाती न हों।
• एआई कौशल वाले लोगों के लिए नए अवसर और संभावित रूप से जिनके पास एआई कौशल नहीं है, वे विस्थापित हो रहे हैं।
• लगातार अद्यतन प्रशिक्षण डेटा के लिए ऊर्जा की खपत और डेटा भंडारण क्षमता में वृद्धि।
• वैश्विक जिम्मेदार एआई मानकों को नहीं अपनाने के लिए अधिक कंपनियों पर जुर्माना लगाया जा रहा है।

विचार करने के लिए प्रश्न

• यदि आप एआई में काम करते हैं, तो आपकी कंपनी अपने एल्गोरिदम को नैतिक बनाने के लिए कैसे प्रशिक्षण दे रही है?
• जिम्मेदार AI सिस्टम के निर्माण की चुनौतियाँ क्या हैं?