डीपफेक और उत्पीड़न: महिलाओं को परेशान करने के लिए सिंथेटिक सामग्री का उपयोग कैसे किया जाता है

इमेज क्रेडिट:
छवि क्रेडिट
iStock

डीपफेक और उत्पीड़न: महिलाओं को परेशान करने के लिए सिंथेटिक सामग्री का उपयोग कैसे किया जाता है

डीपफेक और उत्पीड़न: महिलाओं को परेशान करने के लिए सिंथेटिक सामग्री का उपयोग कैसे किया जाता है

उपशीर्षक पाठ
छेड़छाड़ की गई छवियां और वीडियो एक ऐसे डिजिटल वातावरण में योगदान दे रहे हैं जो महिलाओं को लक्षित करता है।
    • लेखक:
    • लेखक का नाम
      क्वांटमरन दूरदर्शिता
    • दिसम्बर 14/2022

    अंतर्दृष्टि सारांश

    डीपफेक प्रौद्योगिकी के विकास के परिणामस्वरूप यौन उत्पीड़न की घटनाएं बढ़ गई हैं, खासकर महिलाओं के खिलाफ। विशेषज्ञों का मानना ​​है कि जब तक सिंथेटिक मीडिया के निर्माण, उपयोग और वितरण पर सख्त कानून लागू नहीं किए जाते, तब तक दुरुपयोग की स्थिति और बदतर हो जाएगी। उत्पीड़न के लिए डीपफेक का उपयोग करने के दीर्घकालिक प्रभावों में बढ़े हुए मुकदमे और अधिक उन्नत डीपफेक तकनीक और फिल्टर शामिल हो सकते हैं।

    डीपफेक और उत्पीड़न संदर्भ

    2017 में, Reddit वेबसाइट पर एक चर्चा बोर्ड का उपयोग पहली बार कृत्रिम बुद्धिमत्ता (AI) -मैनिपुलेटेड पोर्नोग्राफ़ी को होस्ट करने के लिए किया गया था। एक महीने के भीतर, रेडिट थ्रेड वायरल हो गया, और हजारों लोगों ने साइट पर अपनी डीपफेक पोर्नोग्राफ़ी पोस्ट की। नकली पोर्नोग्राफ़ी या उत्पीड़न बनाने के लिए उपयोग की जाने वाली सिंथेटिक सामग्री तेजी से आम है, फिर भी सार्वजनिक हित अक्सर प्रचार प्रसार पर केंद्रित होते हैं जो दुष्प्रचार और राजनीतिक अस्थिरता को बढ़ावा देते हैं। 

    "डीपफेक" शब्द "डीप लर्निंग" और "फेक" का एक संयोजन है, जो एआई की मदद से तस्वीरों और वीडियो को फिर से बनाने की एक विधि है। इस सामग्री के उत्पादन में आवश्यक घटक मशीन लर्निंग (एमएल) है, जो नकली सामग्री के तेजी से और सस्ती निर्माण की अनुमति देता है जिसे मानव दर्शकों के लिए पता लगाना मुश्किल होता है।

     डीपफेक वीडियो बनाने के लिए लक्षित व्यक्ति के फुटेज के साथ एक तंत्रिका नेटवर्क को प्रशिक्षित किया जाता है। प्रशिक्षण डेटा में जितने अधिक फ़ुटेज का उपयोग किया जाएगा, परिणाम उतने ही अधिक यथार्थवादी होंगे; नेटवर्क उस व्यक्ति के तौर-तरीकों और अन्य व्यक्तित्व लक्षणों को जानेगा। एक बार जब तंत्रिका नेटवर्क प्रशिक्षित हो जाता है, तो कोई भी व्यक्ति कंप्यूटर-ग्राफिक्स तकनीकों का उपयोग किसी अन्य अभिनेता या शरीर पर व्यक्ति की समानता की एक प्रति को अधिरोपित करने के लिए कर सकता है। इस नकल के परिणामस्वरूप महिला हस्तियों और नागरिकों की अश्लील सामग्री की संख्या में वृद्धि हुई है, जो इस बात से अनजान हैं कि उनकी छवियों का इस तरह से उपयोग किया गया है। रिसर्च फर्म सेंसिटी एआई के अनुसार, सभी डीपफेक वीडियो में से लगभग 90 से 95 प्रतिशत गैर-सहमति वाली पोर्नोग्राफ़ी श्रेणी में आते हैं।

    विघटनकारी प्रभाव

    डीपफेक ने रिवेंज पोर्न की प्रथा को बदतर बना दिया है, मुख्य रूप से महिलाओं को सार्वजनिक अपमान और आघात का सामना करने के लिए लक्षित किया जाता है। महिलाओं की गोपनीयता और सुरक्षा खतरे में पड़ गई है क्योंकि एंड-टू-एंड नकली वीडियो तकनीक को तेजी से हथियार बनाया जा रहा है, उदाहरण के लिए, व्यक्तिगत और पेशेवर रूप से महिलाओं को परेशान करना, डराना, अपमानित करना और अपमानित करना। इससे भी बुरी बात यह है कि इस प्रकार की सामग्री के खिलाफ पर्याप्त विनियमन नहीं है।

    उदाहरण के लिए, 2022 तक, 46 अमेरिकी राज्यों में बदला लेने वाली अश्लील सामग्री पर प्रतिबंध लगा दिया गया है, और केवल दो राज्य स्पष्ट रूप से सिंथेटिक मीडिया को अपने प्रतिबंध में शामिल करते हैं। डीपफेक अपने आप में अवैध नहीं हैं, केवल तभी जब वे कॉपीराइट का उल्लंघन करते हैं या मानहानिकारक हो जाते हैं। ये सीमाएँ पीड़ितों के लिए कानूनी कार्रवाई करना कठिन बना देती हैं, खासकर क्योंकि इस सामग्री को स्थायी रूप से ऑनलाइन हटाने का कोई तरीका नहीं है।

    इस बीच, सिंथेटिक सामग्री के एक अन्य रूप, अवतार (उपयोगकर्ताओं के ऑनलाइन प्रतिनिधित्व) पर भी हमले किए जा रहे हैं। गैर-लाभकारी संस्था SumOfUs की 2022 की रिपोर्ट के अनुसार, मेटावर्स प्लेटफॉर्म होराइजन वर्ल्ड्स में संगठन की ओर से शोध कर रही एक महिला के साथ कथित तौर पर मारपीट की गई थी। महिला ने बताया कि एक अन्य उपयोगकर्ता ने उसके अवतार का यौन उत्पीड़न किया जबकि अन्य ने देखा। जब पीड़ित ने घटना को मेटा के ध्यान में लाया, तो मेटा प्रवक्ता ने कहा कि शोधकर्ता ने व्यक्तिगत सीमा विकल्प को निष्क्रिय कर दिया था। यह सुविधा फरवरी 2022 में डिफ़ॉल्ट रूप से सक्षम सुरक्षा एहतियात के रूप में पेश की गई थी और अजनबियों को चार फीट के भीतर अवतार में आने से रोकती थी।

    डीपफेक और उत्पीड़न के निहितार्थ

    डीपफेक और उत्पीड़न के व्यापक निहितार्थों में शामिल हो सकते हैं: 

    • डिजिटल उत्पीड़न और हमले के लिए इस्तेमाल किए जाने वाले डीपफेक के खिलाफ वैश्विक नियामक नीति लागू करने के लिए सरकारों पर दबाव बढ़ा।
    • अधिक महिलाएं डीपफेक तकनीक का शिकार हो रही हैं, विशेष रूप से मशहूर हस्तियां, पत्रकार और कार्यकर्ता।
    • डीपफेक उत्पीड़न और मानहानि के शिकार लोगों के मुकदमों में वृद्धि। 
    • मेटावर्स समुदायों में अवतारों और अन्य ऑनलाइन अभ्यावेदन के प्रति अनुचित व्यवहार की बढ़ती घटनाएं।
    • डीपफेक ऐप्स और फिल्टर का उपयोग करने के लिए नए और तेजी से आसान जारी किए जा रहे हैं जो यथार्थवादी सामग्री बना सकते हैं, जिससे गैर-सहमति वाली डीपफेक सामग्री, विशेष रूप से पोर्नोग्राफ़ी का संशोधन हो सकता है।
    • सोशल मीडिया और वेबसाइट होस्टिंग प्लेटफ़ॉर्म अपने प्लेटफ़ॉर्म पर प्रसारित सामग्री पर अधिक नज़र रखने के लिए अधिक निवेश करते हैं, जिसमें व्यक्तियों पर प्रतिबंध लगाना या समूह पृष्ठों को हटाना शामिल है।

    विचार करने के लिए प्रश्न

    • आपकी सरकार डीपफेक उत्पीड़न को कैसे संबोधित कर रही है?
    • ऐसे और कौन से तरीके हैं जिनसे ऑनलाइन उपयोगकर्ता खुद को डीपफेक क्रिएटर्स के शिकार होने से बचा सकते हैं?