AI TRISM: सुनिश्चित गर्दै कि AI नैतिक रहन्छ

• लेखक:
• लेखक नाम

  Quantumrun दूरदर्शिता
• अक्टोबर 20, 2023

अन्तरदृष्टि सारांश

२०२२ मा, अनुसन्धान फर्म गार्टनरले एआई ट्रस्ट, रिस्क र सेक्युरिटी म्यानेजमेन्टका लागि खडा भएको एआई मोडेलहरूको सुशासन र विश्वसनीयता सुनिश्चित गर्न AI TRiSM प्रस्तुत गर्‍यो। ढाँचामा पाँचवटा स्तम्भहरू हुन्छन्: व्याख्यायोग्यता, मोडेल अपरेशनहरू, डेटा विसंगति पत्ता लगाउने, विरोधी आक्रमणहरूको प्रतिरोध, र डेटा सुरक्षा। प्रतिवेदनले हाइलाइट गर्दछ कि एआई जोखिमहरूको कमजोर व्यवस्थापनले महत्त्वपूर्ण हानि र सुरक्षा उल्लंघनहरू निम्त्याउन सक्छ। AI TRISM कार्यान्वयन गर्न कानूनी, अनुपालन, IT, र डाटा एनालिटिक्सबाट क्रस-कार्यात्मक टोली चाहिन्छ। ढाँचाले नैतिक र कानुनी सरोकारहरूमा ध्यान केन्द्रित गर्दै "उत्तरदायी एआई" को संस्कृति निर्माण गर्ने लक्ष्य राखेको छ, र यसले एआईमा काम गर्ने प्रवृत्ति, सरकारी नियमहरू, र नैतिक विचारहरूलाई प्रभाव पार्ने सम्भावना छ।

AI TRISM सन्दर्भ

गार्टनरका अनुसार, AI TriSM का पाँचवटा स्तम्भहरू छन्: व्याख्यायोग्यता, मोडेल अपरेशनहरू (ModelOps), डाटा विसंगति पत्ता लगाउने, विरोधी आक्रमण प्रतिरोध, र डाटा सुरक्षा। गार्टनरको प्रक्षेपणमा आधारित, यी स्तम्भहरू लागू गर्ने संस्थाहरूले 50 सम्म अपनाउने, व्यवसायिक उद्देश्यहरू, र प्रयोगकर्ताको स्वीकृतिको सम्बन्धमा तिनीहरूको एआई मोडेल प्रदर्शनमा 2026 प्रतिशत वृद्धि देख्नेछन्। साथै, एआई-संचालित मेसिनहरूले विश्वको कार्यबलको 20 प्रतिशत बनाउँदछ। र 40 सम्म समग्र आर्थिक उत्पादकत्वको 2028 प्रतिशत योगदान गर्नेछ।

गार्टनरको सर्वेक्षणको निष्कर्षले सुझाव दिन्छ कि धेरै संस्थाहरूले सयौं वा हजारौं एआई मोडेलहरू लागू गरेका छन् जुन आईटी अधिकारीहरूले बुझ्न वा व्याख्या गर्न सक्दैनन्। एआई-सम्बन्धित जोखिमहरू पर्याप्त रूपमा व्यवस्थापन नगर्ने संस्थाहरू प्रतिकूल परिणामहरू र उल्लङ्घनहरूको सामना गर्ने बढी जोखिममा छन्। मोडेलहरूले उद्देश्य अनुसार काम नगर्न सक्छन्, जसले सुरक्षा र गोपनीयता उल्लङ्घनहरू, र वित्तीय, व्यक्तिगत, र प्रतिष्ठामा क्षति पुर्‍याउँछ। AI को गलत कार्यान्वयनले संगठनहरूलाई गलत व्यापार निर्णयहरू गर्न पनि सक्छ।

AI TRISM लाई सफलतापूर्वक कार्यान्वयन गर्न, कानूनी, अनुपालन, सुरक्षा, IT, र डेटा विश्लेषण कर्मचारीहरूको क्रस-कार्यात्मक टोली आवश्यक छ। एआई परियोजनामा ​​संलग्न प्रत्येक व्यवसाय क्षेत्रबाट उचित प्रतिनिधित्वको साथ एक समर्पित टोली वा कार्यदल स्थापना गर्दा पनि इष्टतम परिणामहरू प्राप्त हुनेछ। यो सुनिश्चित गर्न पनि आवश्यक छ कि प्रत्येक टोली सदस्यले आफ्नो भूमिका र जिम्मेवारीहरू, साथै AI TRiSM पहलका लक्ष्यहरू र उद्देश्यहरू स्पष्ट रूपमा बुझ्दछन्।

विघटनकारी प्रभाव

AI सुरक्षित बनाउन गार्टनरले धेरै महत्त्वपूर्ण कदमहरू सिफारिस गर्दछ। पहिलो, संगठनहरूले AI सँग सम्बन्धित सम्भावित जोखिमहरू र तिनीहरूलाई कसरी कम गर्ने भनेर बुझ्न आवश्यक छ। यस प्रयासको लागि एक व्यापक जोखिम मूल्याङ्कन आवश्यक छ जसले टेक्नोलोजी मात्र होइन तर मानिसहरू, प्रक्रियाहरू र वातावरणमा यसको प्रभावलाई पनि विचार गर्दछ।

दोस्रो, संगठनहरूले एआई प्रशासनमा लगानी गर्न आवश्यक छ, जसमा एआई जोखिमहरू व्यवस्थापन गर्नका लागि नीतिहरू, प्रक्रियाहरू र नियन्त्रणहरू समावेश छन्। यस रणनीतिमा एआई प्रणालीहरू पारदर्शी, व्याख्यायोग्य, जवाफदेही र सान्दर्भिक कानून र नियमहरूको पालना गर्ने सुनिश्चित गर्ने समावेश छ। थप रूपमा, एआई मोडेलहरूको निरन्तर अनुगमन र लेखापरीक्षण समयसँगै उत्पन्न हुन सक्ने सम्भावित जोखिमहरू पहिचान गर्न र कम गर्न महत्त्वपूर्ण छ। अन्तमा, संगठनहरूले कर्मचारी र सरोकारवालाहरू बीच जागरूकता, शिक्षा, र प्रशिक्षण प्रवर्द्धन गर्दै एआई सुरक्षाको संस्कृति विकास गर्न आवश्यक छ। यी चरणहरूमा AI को नैतिक प्रयोग, AI सँग सम्बन्धित जोखिमहरू, र कसरी समस्या वा चिन्ताहरू पहिचान गर्ने र रिपोर्ट गर्ने बारे प्रशिक्षण समावेश छ। 

यी प्रयासहरूले सम्भवतः धेरै कम्पनीहरूले आफ्नो जिम्मेवार एआई विभागहरू निर्माण गर्न परिणाम दिन्छ। यस उदीयमान शासन ढाँचाले एआईसँग सम्बन्धित कानुनी र नैतिक अवरोधहरूलाई कसरी संगठनहरूले उनीहरूसँग सम्पर्क गर्छ भनेर दस्तावेजीकरण गरेर सम्बोधन गर्दछ। ढाँचा र यससँग सम्बन्धित पहलहरूले अनावश्यक नकारात्मक परिणामहरू रोक्नको लागि अस्पष्टता हटाउन चाहन्छ। जिम्मेवार एआई फ्रेमवर्कका सिद्धान्तहरूले कर्मचारीहरूलाई फाइदा पुग्ने, ग्राहकहरूलाई मूल्य प्रदान गर्ने र समाजलाई सकारात्मक रूपमा प्रभाव पार्ने तरिकामा एआई डिजाइन, विकास र प्रयोगमा केन्द्रित छन्।

AI TRISM का प्रभावहरू

AI TRISM को व्यापक प्रभावहरू समावेश हुन सक्छन्: 

• AI TRISM बढ्दो रूपमा महत्त्वपूर्ण हुँदै जाँदा, कम्पनीहरूले यस क्षेत्रमा जानकार अधिक कुशल कामदारहरू भर्ना गर्न आवश्यक छ, जस्तै AI सुरक्षा विश्लेषकहरू, जोखिम प्रबन्धकहरू, र नैतिकवादीहरू।
• नयाँ नैतिक र नैतिक विचारहरू, जस्तै AI प्रणालीहरू प्रयोगमा पारदर्शिता, निष्पक्षता र जवाफदेहिताको आवश्यकता।
• AI- संवर्धित आविष्कारहरू जुन सुरक्षित, भरपर्दो र भरपर्दो छन्।
• व्यक्ति र संस्थाहरूलाई AI प्रणालीहरूसँग सम्बन्धित जोखिमहरूबाट जोगाउन सरकारी नियमनको लागि बढ्दो दबाब।
• एआई प्रणालीहरू विशेष समूह वा व्यक्तिहरू विरुद्ध पूर्वाग्रही छैनन् भनी सुनिश्चित गर्नमा ठूलो फोकस।
• AI कौशल भएकाहरूका लागि नयाँ अवसरहरू र सम्भावित रूपमा तिनीहरू नभएकाहरूलाई विस्थापित गर्ने।
• लगातार अपडेट गरिएको प्रशिक्षण डेटाको लागि बढेको ऊर्जा खपत र डाटा भण्डारण क्षमता।
• ग्लोबल रिस्पोन्सिबल एआई मापदण्डहरू पालना नगरेकोमा थप कम्पनीहरूलाई जरिवाना गरिएको छ।

विचार गर्न प्रश्नहरु

• यदि तपाइँ AI मा काम गर्नुहुन्छ भने, तपाइँको कम्पनीले कसरी यसको एल्गोरिदमलाई नैतिक हुन तालिम दिइरहेको छ?
• जिम्मेवार एआई प्रणालीहरू निर्माणका चुनौतीहरू के हुन्?