क्वांटमरुन

इमेज क्रेडिट:

iStock

सेंसरशिप और एआई: एल्गोरिदम जो सेंसरशिप को फिर से लागू और ध्वजांकित कर सकते हैं

आर्टिफिशियल इंटेलिजेंस (एआई) सिस्टम की विकसित हो रही सीखने की क्षमता सेंसरशिप के लिए लाभ और निवारक दोनों हो सकती है।

लेखक:
लेखक का नाम
क्वांटमरन दूरदर्शिता
अक्टूबर 31

अंतर्दृष्टि सारांश

जब कृत्रिम बुद्धिमत्ता (एआई) और सेंसरशिप की बात आती है, तो कई विशेषज्ञ सरकारी नियंत्रण के संबंध में ऐसी तकनीक के निहितार्थ के बारे में चिंतित होते हैं। कृत्रिम बुद्धिमत्ता प्रणालियाँ उन्हें प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा के कारण पूर्वाग्रह के प्रति संवेदनशील हो सकती हैं। हालाँकि, कुछ संगठन यह भी प्रयोग कर रहे हैं कि सेंसरशिप का पता लगाने और उसे रोकने के लिए एआई का उपयोग कैसे किया जाए।

सेंसरशिप और एआई संदर्भ

एआई द्वारा संचालित एल्गोरिदम, उस डेटा से तेजी से प्रभावित हो रहे हैं जिस पर उन्हें प्रशिक्षित किया जाता है। हालाँकि, यह विकास सरकारों या संगठनों द्वारा एआई सिस्टम के संभावित दुरुपयोग के बारे में चिंता पैदा करता है। इसका एक ज्वलंत उदाहरण WeChat और Weibo जैसे सोशल मीडिया प्लेटफार्मों पर सामग्री को सेंसर करने के लिए चीनी सरकार द्वारा AI का उपयोग है।

इसके विपरीत, एआई सिस्टम का विकास कुछ अनुप्रयोगों, जैसे सामग्री मॉडरेशन और सेंसर की गई जानकारी का सटीक पता लगाने में भी काफी संभावनाएं रखता है। सोशल मीडिया प्लेटफॉर्म अपने सर्वर पर पोस्ट की गई सामग्री की निगरानी के लिए एआई का लाभ उठाने में सबसे आगे हैं, खासकर जब नफरत फैलाने वाले भाषण और हिंसा भड़काने वाली सामग्री की पहचान करने की बात आती है। उदाहरण के लिए, 2019 में, YouTube ने ग्राफिक हिंसा या चरमपंथी सामग्री वाले वीडियो की पहचान करने में एआई को नियोजित करने के अपने इरादे के बारे में एक महत्वपूर्ण घोषणा की।

इसके अलावा, 2020 के अंत तक, फेसबुक ने बताया कि उसके एआई एल्गोरिदम प्लेटफ़ॉर्म पर पोस्ट किए गए लगभग 94.7 प्रतिशत अभद्र भाषा का पता लगा सकते हैं। तेजी से विकसित हो रहे इस परिदृश्य में, नीति निर्माताओं और जनता दोनों के लिए ऑनलाइन सामग्री पर एआई के प्रभाव की दोहरी प्रकृति के बारे में सूचित रहना महत्वपूर्ण है। जबकि सेंसरशिप के लिए इसकी क्षमता के बारे में चिंताएं हैं, एआई सामग्री मॉडरेशन को बढ़ाने और एक सुरक्षित ऑनलाइन वातावरण सुनिश्चित करने के लिए मूल्यवान उपकरण भी प्रदान करता है।

विघटनकारी प्रभाव

कैलिफोर्निया विश्वविद्यालय सैन डिएगो द्वारा 2021 के एक अध्ययन ने दो अलग-अलग एआई एल्गोरिदम की जांच की, यह देखने के लिए कि उन्होंने विशिष्ट शब्दों वाले सुर्खियां कैसे बनाईं। एआई सिस्टम ने सूचना पोर्टल विकिपीडिया (चीनी विकिपीडिया) के चीनी संस्करण और एक ऑनलाइन विश्वकोश Baidu Baike से प्रशिक्षण डेटा का आकलन किया।

अध्ययन में पाया गया कि चीनी विकिपीडिया पर प्रशिक्षित एआई एल्गोरिदम ने "चुनाव" और "स्वतंत्रता" जैसे शब्दों का उल्लेख करने वाली सुर्खियों में अधिक सकारात्मक अंक दिए। इस बीच, Baidu Baike पर प्रशिक्षित AI एल्गोरिथ्म ने "निगरानी" और "सामाजिक नियंत्रण" जैसे वाक्यांशों वाली सुर्खियों को अधिक सकारात्मक अंक दिए। इस रहस्योद्घाटन ने कई विशेषज्ञों के बीच एआई की सरकारी सेंसरशिप की क्षमता के बारे में चिंता जताई।

हालाँकि, ऐसे अध्ययन भी हुए हैं जिनमें देखा गया है कि AI सेंसरशिप के प्रयासों की पहचान कैसे कर सकता है। 2021 में, शिकागो विश्वविद्यालय के डेटा साइंस इंस्टीट्यूट और प्रिंसटन विश्वविद्यालय ने इंटरनेट सेंसरशिप की निगरानी और पता लगाने के लिए एक वास्तविक समय उपकरण बनाने की योजना जारी की। परियोजना का अंतिम लक्ष्य राजनयिकों, नीति निर्माताओं और गैर-वैज्ञानिकों सहित डेटा उपयोगकर्ताओं को अतिरिक्त निगरानी क्षमताएं और डैशबोर्ड प्रदान करना है। टीम सेंसरशिप के लिए एक वास्तविक समय "मौसम मानचित्र" रखने की योजना बना रही है ताकि पर्यवेक्षक लगभग तुरंत इंटरनेट हस्तक्षेप देख सकें जैसा कि होता है। इस सुविधा में वे देश और साइटें शामिल होंगी या सामग्री सरकारें हेरफेर कर रही हैं।

सेंसरशिप और एआई के प्रभाव

सेंसरशिप और एआई के व्यापक प्रभाव में शामिल हो सकते हैं:

सेंसर की गई जानकारी को पकड़ने और हेरफेर करने के लिए साइबर अपराधी सेंसरशिप संगठनों को हैक करते हैं।
सेंसरशिप और अन्य सूचना हेरफेर का पता लगाने वाले उपकरणों के लिए निवेश और अनुसंधान में वृद्धि।
सोशल मीडिया प्लेटफॉर्म सामग्री को मॉडरेट करने के लिए अपने एल्गोरिदम को बेहतर बनाना जारी रखे हुए हैं। हालाँकि, यह बढ़ती हुई आत्म-पुलिस कई उपयोगकर्ताओं को विमुख कर सकती है।
सरकारी अधिकारियों और समाचार मीडिया आउटलेट्स के प्रति सामुदायिक अविश्वास में वृद्धि।
संबंधित सरकारों के प्रतिकूल कहानियों को हटाने सहित स्थानीय मीडिया और समाचारों को नियंत्रित करने के लिए कुछ राष्ट्र-राज्यों द्वारा एआई सिस्टम का उपयोग जारी है।
व्यवसाय विविध वैश्विक इंटरनेट नियमों का अनुपालन करने के लिए अपनी डिजिटल रणनीतियों को अपना रहे हैं, जिससे अधिक स्थानीयकृत और खंडित ऑनलाइन सेवाएं प्राप्त हो रही हैं।
उपभोक्ता सेंसरशिप से बचने के लिए वैकल्पिक, विकेन्द्रीकृत प्लेटफार्मों की ओर रुख कर रहे हैं, जिससे सोशल मीडिया की गतिशीलता में बदलाव को बढ़ावा मिल रहा है।
दुनिया भर के नीति निर्माता मुक्त भाषण को बाधित किए बिना सेंसरशिप में एआई को विनियमित करने की चुनौती से जूझ रहे हैं, जिससे विभिन्न विधायी दृष्टिकोण सामने आए हैं।