डीपफेक आणि छळ: महिलांना त्रास देण्यासाठी सिंथेटिक सामग्री कशी वापरली जाते

• लेखक बद्दल:
• लेखक नाव

  Quantumrun दूरदृष्टी
• डिसेंबर 14, 2022

अंतर्दृष्टी सारांश

डीपफेक तंत्रज्ञानाच्या विकासामुळे लैंगिक छळाच्या घटनांमध्ये वाढ झाली आहे, विशेषतः महिलांविरुद्ध. सिंथेटिक मीडिया कसा तयार केला जातो, वापरला जातो आणि वितरित केला जातो यावर कठोर कायदे लागू केले जात नाहीत तोपर्यंत दुरुपयोग आणखी वाढेल असे तज्ञांचे मत आहे. त्रास देण्यासाठी डीपफेक वापरण्याच्या दीर्घकालीन परिणामांमध्ये वाढीव खटले आणि अधिक प्रगत डीपफेक तंत्रज्ञान आणि फिल्टर यांचा समावेश असू शकतो.

डीपफेक आणि छळवणूक संदर्भ

2017 मध्ये, रेडिट या वेबसाइटवरील चर्चा मंडळाचा वापर प्रथमच कृत्रिम बुद्धिमत्ता (AI) - मॅनिप्युलेट पोर्नोग्राफी होस्ट करण्यासाठी केला गेला. एका महिन्याच्या आत, Reddit थ्रेड व्हायरल झाला आणि हजारो लोकांनी साइटवर त्यांची डीपफेक पोर्नोग्राफी पोस्ट केली. बनावट पोर्नोग्राफी किंवा छळ निर्माण करण्यासाठी वापरली जाणारी कृत्रिम सामग्री वाढत्या प्रमाणात सामान्य होत आहे, तरीही सार्वजनिक हित वारंवार अपप्रचाराच्या डीपफेकवर केंद्रित केले जाते जे चुकीची माहिती आणि राजकीय अस्थिरतेला प्रोत्साहन देतात. 

"डीपफेक" हा शब्द "डीप लर्निंग" आणि "फेक" चे संयोजन आहे, AI च्या मदतीने छायाचित्रे आणि व्हिडिओ पुन्हा तयार करण्याची पद्धत. या सामग्रीच्या उत्पादनातील आवश्यक घटक म्हणजे मशीन लर्निंग (ML), जे बनावट सामग्रीची जलद आणि स्वस्त निर्मिती करण्यास अनुमती देते जी मानवी दर्शकांना शोधणे अधिक कठीण होत आहे.

 डीपफेक व्हिडिओ तयार करण्यासाठी लक्ष्यित व्यक्तीच्या फुटेजसह न्यूरल नेटवर्कला प्रशिक्षण दिले जाते. प्रशिक्षण डेटामध्ये जितके अधिक फुटेज वापरले जाईल, तितके परिणाम अधिक वास्तववादी असतील; नेटवर्क त्या व्यक्तीची वागणूक आणि इतर व्यक्तिमत्व वैशिष्ट्ये शिकेल. एकदा न्यूरल नेटवर्क प्रशिक्षित झाल्यानंतर, कोणीही संगणक-ग्राफिक्स तंत्राचा वापर करून एखाद्या व्यक्तीच्या प्रतिमेची प्रत दुसर्‍या अभिनेत्यावर किंवा शरीरावर चढवू शकतो. या कॉपीमुळे महिला सेलिब्रिटींच्या अश्लील साहित्यांची संख्या वाढली आहे आणि त्यांच्या प्रतिमा अशा प्रकारे वापरल्या गेल्या आहेत हे माहीत नसलेल्या नागरिकांना. रिसर्च फर्म सेन्सिटी एआयच्या म्हणण्यानुसार, सर्व डीपफेक व्हिडिओंपैकी अंदाजे 90 ते 95 टक्के व्हिडिओ असहमती पोर्नोग्राफी श्रेणीत येतात.

व्यत्यय आणणारा प्रभाव

डीपफेकमुळे रिव्हेंज पॉर्नची प्रथा बिघडली आहे, प्रामुख्याने महिलांना सार्वजनिक अपमान आणि आघात समोर आणण्यासाठी त्यांना लक्ष्य केले जाते. महिलांची गोपनीयता आणि सुरक्षितता धोक्यात आली आहे कारण एंड-टू-एंड बनावट व्हिडिओ तंत्रज्ञान अधिकाधिक शस्त्र बनत आहे, उदा., वैयक्तिक आणि व्यावसायिकरित्या महिलांना त्रास देणे, धमकावणे, अपमानित करणे आणि त्यांची मानहानी करणे. वाईट म्हणजे, या प्रकारच्या सामग्रीविरूद्ध पुरेसे नियमन नाही.

उदाहरणार्थ, 2022 पर्यंत, 46 यूएस राज्यांमध्ये रिव्हेंज पॉर्न सामग्रीवर बंदी घालण्यात आली आहे आणि केवळ दोन राज्ये त्यांच्या बंदीमध्ये सिंथेटिक मीडिया स्पष्टपणे कव्हर करतात. डीपफेक स्वतःहून बेकायदेशीर नसतात, जेव्हा ते कॉपीराइटचे उल्लंघन करतात किंवा बदनामी करतात तेव्हाच. या मर्यादांमुळे पीडितांना कायदेशीर कारवाई करणे कठीण होते, विशेषत: ही सामग्री कायमची ऑनलाइन हटवण्याचा कोणताही मार्ग नसल्यामुळे.

दरम्यान, सिंथेटिक सामग्रीचा दुसरा प्रकार, अवतार (वापरकर्त्यांचे ऑनलाइन प्रतिनिधित्व) देखील हल्ले केले जात आहेत. SumOfUs ना-नफा वकिल संस्थेच्या 2022 च्या अहवालानुसार, संस्थेच्या वतीने संशोधन करणाऱ्या एका महिलेवर मेटाव्हर्स प्लॅटफॉर्म Horizon Worlds मध्ये कथितरित्या हल्ला करण्यात आला. महिलेने नोंदवले की दुसर्‍या वापरकर्त्याने तिच्या अवतारवर लैंगिक अत्याचार केले तर इतरांनी पाहिले. जेव्हा पीडितेने ही घटना मेटाच्या लक्षात आणून दिली तेव्हा मेटा प्रवक्त्याने सांगितले की संशोधकाने वैयक्तिक सीमा पर्याय निष्क्रिय केला आहे. हे वैशिष्ट्य फेब्रुवारी 2022 मध्ये सुरक्षेची खबरदारी म्हणून सुरू करण्यात आले होते जे डीफॉल्टनुसार सक्षम केले गेले होते आणि अनोळखी व्यक्तींना चार फुटांच्या आत अवतारापर्यंत जाण्यापासून प्रतिबंधित केले होते.

डीपफेक आणि छळवणुकीचे परिणाम

डीपफेक आणि छळवणुकीच्या व्यापक परिणामांमध्ये हे समाविष्ट असू शकते: 

• डिजिटल छळ आणि हल्ल्यासाठी वापरल्या जाणार्‍या डीपफेकविरूद्ध जागतिक नियामक धोरण लागू करण्यासाठी सरकारांवर दबाव वाढला.
• अधिक स्त्रिया डीपफेक तंत्रज्ञानामुळे बळी पडत आहेत, विशेषत: सेलिब्रिटी, पत्रकार आणि कार्यकर्ते.
• डीपफेक छळ आणि बदनामीच्या बळींकडून खटल्यांमध्ये वाढ. 
• मेटाव्हर्स समुदायांमध्ये अवतार आणि इतर ऑनलाइन प्रतिनिधित्वांबद्दल अयोग्य वर्तनाच्या वाढलेल्या घटना.
• नवीन आणि वाढत्या प्रमाणात वापरण्यास सुलभ डीपफेक अॅप्स आणि फिल्टर्स रिलीझ केले जात आहेत जे वास्तववादी सामग्री तयार करू शकतात, ज्यामुळे असहमतीयुक्त डीपफेक सामग्री, विशेषतः पोर्नोग्राफीचे कमोडिफिकेशन होऊ शकते.
• सोशल मीडिया आणि वेबसाइट होस्टिंग प्लॅटफॉर्म व्यक्तींवर बंदी घालणे किंवा गट पृष्ठे काढून टाकणे यासह त्यांच्या प्लॅटफॉर्मवर प्रसारित केलेल्या सामग्रीचे जोरदारपणे निरीक्षण करण्यासाठी अधिक गुंतवणूक करतात.

विचारात घेण्यासारखे प्रश्न

• तुमचे सरकार डीपफेक त्रासाला कसे संबोधित करत आहे?
• ऑनलाइन वापरकर्ते डीपफेक निर्मात्यांना बळी पडण्यापासून स्वतःचे संरक्षण करू शकतात असे इतर कोणते मार्ग आहेत?