ડીપફેક્સ અને ઉત્પીડન: સ્ત્રીઓને હેરાન કરવા માટે સિન્થેટિક સામગ્રીનો ઉપયોગ કેવી રીતે થાય છે

• લેખક:
• લેખક નામ

  ક્વોન્ટમરુન અગમચેતી
• ડિસેમ્બર 14, 2022

આંતરદૃષ્ટિનો સારાંશ

ડીપફેક ટેક્નોલોજીના વિકાસને કારણે જાતીય સતામણીના બનાવોમાં વધારો થયો છે, ખાસ કરીને મહિલાઓ સામે. નિષ્ણાતો માને છે કે જ્યાં સુધી સિન્થેટીક મીડિયા કેવી રીતે બનાવવામાં આવે છે, તેનો ઉપયોગ કરવામાં આવે છે અને તેનું વિતરણ કરવામાં આવે છે તેના પર કડક કાયદા લાગુ કરવામાં નહીં આવે તો દુરુપયોગ વધુ ખરાબ થશે. ઉત્પીડન માટે ડીપફેકનો ઉપયોગ કરવાના લાંબા ગાળાની અસરોમાં કેસોમાં વધારો અને વધુ અદ્યતન ડીપફેક તકનીકો અને ફિલ્ટર્સનો સમાવેશ થઈ શકે છે.

ડીપફેક્સ અને પજવણી સંદર્ભ

2017 માં, વેબસાઇટ Reddit પર ચર્ચા બોર્ડનો ઉપયોગ પ્રથમ વખત આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI)-મેનિપ્યુલેટેડ પોર્નોગ્રાફી હોસ્ટ કરવા માટે કરવામાં આવ્યો હતો. એક મહિનાની અંદર, Reddit થ્રેડ વાયરલ થઈ ગયો, અને હજારો લોકોએ તેમની ડીપફેક પોર્નોગ્રાફી સાઇટ પર પોસ્ટ કરી. બનાવટી પોર્નોગ્રાફી અથવા હેરાનગતિ બનાવવા માટે વપરાતી કૃત્રિમ સામગ્રી વધુને વધુ સામાન્ય છે, તેમ છતાં જાહેર હિત વારંવાર પ્રચાર ડીપફેક પર કેન્દ્રિત છે જે અયોગ્ય માહિતી અને રાજકીય અસ્થિરતાને પ્રોત્સાહન આપે છે. 

"ડીપફેક" શબ્દ એ "ડીપ લર્નિંગ" અને "ફેક" નું સંયોજન છે, જે એઆઈની મદદથી ફોટોગ્રાફ્સ અને વિડિયોઝને ફરીથી બનાવવાની પદ્ધતિ છે. આ સામગ્રીના ઉત્પાદનમાં આવશ્યક ઘટક મશીન લર્નિંગ (ML) છે, જે નકલી સામગ્રીની ઝડપી અને સસ્તી રચના માટે પરવાનગી આપે છે જે માનવ દર્શકો માટે વધુને વધુ મુશ્કેલ છે.

 ડીપફેક વિડિયો બનાવવા માટે લક્ષિત વ્યક્તિના ફૂટેજ સાથે ન્યુરલ નેટવર્કને તાલીમ આપવામાં આવે છે. પ્રશિક્ષણ ડેટામાં જેટલા વધુ ફૂટેજનો ઉપયોગ કરવામાં આવશે, પરિણામો વધુ વાસ્તવિક હશે; નેટવર્ક તે વ્યક્તિની રીતભાત અને અન્ય વ્યક્તિત્વના લક્ષણો શીખશે. એકવાર ન્યુરલ નેટવર્ક પ્રશિક્ષિત થઈ જાય, પછી કોઈપણ વ્યક્તિ અન્ય અભિનેતા અથવા શરીર પર વ્યક્તિની સમાનતાની નકલને સુપરિમ્પોઝ કરવા માટે કમ્પ્યુટર-ગ્રાફિક્સ તકનીકોનો ઉપયોગ કરી શકે છે. આ નકલને કારણે મહિલા સેલિબ્રિટીઝ અને નાગરિકોની અશ્લીલ સામગ્રીની સંખ્યામાં વધારો થયો છે જેઓ અજાણ છે કે તેમની છબીઓનો આ રીતે ઉપયોગ કરવામાં આવ્યો છે. રિસર્ચ ફર્મ સેન્સિટી AI અનુસાર, તમામ ડીપફેક વિડિયોમાંથી લગભગ 90 થી 95 ટકા બિનસહમત પોર્નોગ્રાફી શ્રેણીમાં આવે છે.

વિક્ષેપકારક અસર

ડીપફેક્સે રીવેન્જ પોર્નની પ્રથાને વધુ ખરાબ કરી છે, જે મુખ્યત્વે મહિલાઓને જાહેરમાં અપમાન અને આઘાતનો સામનો કરવા માટે લક્ષ્ય બનાવે છે. મહિલાઓની ગોપનીયતા અને સલામતી જોખમમાં મૂકાઈ છે કારણ કે એન્ડ-ટુ-એન્ડ નકલી વિડિયો ટેક્નોલોજી વધુને વધુ શસ્ત્ર બની રહી છે, દા.ત., મહિલાઓને વ્યક્તિગત અને વ્યવસાયિક રીતે હેરાન કરવી, ડરાવવા, અપમાનજનક અને અપમાનિત કરવી. ખરાબ, આ પ્રકારની સામગ્રી સામે પૂરતું નિયમન નથી.

ઉદાહરણ તરીકે, 2022 સુધીમાં, 46 યુએસ રાજ્યોમાં રિવેન્જ પોર્ન સામગ્રી પર પ્રતિબંધ છે, અને ફક્ત બે રાજ્યો તેમના પ્રતિબંધમાં સિન્થેટિક મીડિયાને સ્પષ્ટપણે આવરી લે છે. ડીપફેક પોતે જ ગેરકાયદેસર નથી, માત્ર ત્યારે જ જ્યારે તેઓ કોપીરાઈટનો ભંગ કરે છે અથવા બદનક્ષીકારક બને છે. આ મર્યાદાઓ પીડિતો માટે કાનૂની પગલાં લેવાનું મુશ્કેલ બનાવે છે, ખાસ કરીને કારણ કે આ સામગ્રીને કાયમી ધોરણે ઑનલાઇન કાઢી નાખવાની કોઈ રીત નથી.

દરમિયાન, કૃત્રિમ સામગ્રીનું બીજું સ્વરૂપ, અવતાર (વપરાશકર્તાઓની ઓનલાઈન રજૂઆત), પણ હુમલાને આધિન છે. બિનનફાકારક હિમાયત સંસ્થા SumOfUs ના 2022 ના અહેવાલ મુજબ, સંસ્થા વતી સંશોધન કરતી એક મહિલા પર મેટાવર્સ પ્લેટફોર્મ હોરાઇઝન વર્લ્ડ્સમાં કથિત રીતે હુમલો કરવામાં આવ્યો હતો. મહિલાએ અહેવાલ આપ્યો કે અન્ય વપરાશકર્તાએ તેના અવતાર પર જાતીય હુમલો કર્યો જ્યારે અન્ય લોકો જોતા હતા. જ્યારે પીડિતાએ આ ઘટનાને મેટાના ધ્યાન પર લાવી, ત્યારે મેટાના પ્રવક્તાએ કહ્યું કે સંશોધકે પર્સનલ બાઉન્ડ્રી વિકલ્પને નિષ્ક્રિય કરી દીધો છે. આ સુવિધાને ફેબ્રુઆરી 2022 માં મૂળભૂત રીતે સક્ષમ સુરક્ષા સાવચેતી તરીકે રજૂ કરવામાં આવી હતી અને અજાણ્યાઓને ચાર ફૂટની અંદર અવતારની નજીક આવતા અટકાવવામાં આવી હતી.

ડીપફેક અને સતામણીનો પ્રભાવ

ડીપફેક અને પજવણીના વ્યાપક પરિણામોમાં આનો સમાવેશ થઈ શકે છે: 

• ડિજિટલ હેરેસમેન્ટ અને હુમલા માટે ઉપયોગમાં લેવાતા ડીપફેક સામે વૈશ્વિક નિયમનકારી નીતિનો અમલ કરવા માટે સરકારો પર દબાણ વધ્યું.
• ડીપફેક ટેક્નોલોજી, ખાસ કરીને સેલિબ્રિટીઓ, પત્રકારો અને કાર્યકર્તાઓ દ્વારા વધુ મહિલાઓનો ભોગ લેવાય છે.
• ડીપફેક હેરેસમેન્ટ અને બદનક્ષીનો ભોગ બનેલા લોકો તરફથી મુકદ્દમોમાં વધારો. 
• મેટાવર્સ સમુદાયોમાં અવતાર અને અન્ય ઑનલાઇન રજૂઆતો પ્રત્યે અયોગ્ય વર્તનની ઘટનાઓમાં વધારો.
• નવી અને વધુને વધુ સરળ ડીપફેક એપ્સ અને ફિલ્ટર્સ રીલીઝ કરવામાં આવી રહ્યા છે જે વાસ્તવિક સામગ્રી બનાવી શકે છે, જે બિનસલાહભર્યા ડીપફેક સામગ્રી, ખાસ કરીને પોર્નોગ્રાફીના કોમોડિફિકેશન તરફ દોરી જાય છે.
• સોશિયલ મીડિયા અને વેબસાઈટ હોસ્ટિંગ પ્લેટફોર્મ તેમના પ્લેટફોર્મ્સ પર પ્રસારિત થતી સામગ્રી પર ભારે દેખરેખ રાખવા માટે વધુ રોકાણ કરે છે, જેમાં વ્યક્તિઓ પર પ્રતિબંધ મૂકવો અથવા જૂથ પૃષ્ઠોને નીચે લેવાનો સમાવેશ થાય છે.

ધ્યાનમાં લેવાના પ્રશ્નો

• તમારી સરકાર ડીપફેક હેરેસમેન્ટને કેવી રીતે સંબોધિત કરી રહી છે?
• અન્ય કઈ રીતો છે જેનાથી ઑનલાઇન વપરાશકર્તાઓ ડીપફેક સર્જકોનો ભોગ બનવાથી પોતાને બચાવી શકે છે?