ഡീപ്ഫേക്കുകളും ഉപദ്രവവും: സ്ത്രീകളെ ഉപദ്രവിക്കാൻ സിന്തറ്റിക് ഉള്ളടക്കം എങ്ങനെ ഉപയോഗിക്കുന്നു

• രചയിതാവ്:
• രചയിതാവിന്റെ പേര്

  Quantumrun ദീർഘവീക്ഷണം
• ഡിസംബർ 14, 2022

ഇൻസൈറ്റ് സംഗ്രഹം

ഡീപ്ഫേക്ക് സാങ്കേതിക വിദ്യയുടെ വികാസം ലൈംഗികാതിക്രമങ്ങൾ, പ്രത്യേകിച്ച് സ്ത്രീകൾക്കെതിരെയുള്ള സംഭവങ്ങൾ വർദ്ധിക്കുന്നതിലേക്ക് നയിച്ചു. സിന്തറ്റിക് മീഡിയ എങ്ങനെ സൃഷ്ടിക്കപ്പെടുന്നു, ഉപയോഗിക്കപ്പെടുന്നു, വിതരണം ചെയ്യുന്നു എന്നതിനെക്കുറിച്ചുള്ള കർശനമായ നിയമങ്ങൾ നടപ്പിലാക്കിയില്ലെങ്കിൽ ദുരുപയോഗം കൂടുതൽ വഷളാകുമെന്ന് വിദഗ്ധർ വിശ്വസിക്കുന്നു. ഉപദ്രവത്തിനായി ഡീപ്‌ഫേക്കുകൾ ഉപയോഗിക്കുന്നതിൻ്റെ ദീർഘകാല പ്രത്യാഘാതങ്ങളിൽ വർദ്ധിച്ച വ്യവഹാരങ്ങളും കൂടുതൽ നൂതനമായ ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യകളും ഫിൽട്ടറുകളും ഉൾപ്പെടാം.

ഡീപ്ഫേക്കുകളും ഉപദ്രവിക്കുന്ന സന്ദർഭങ്ങളും

2017-ൽ, റെഡ്ഡിറ്റ് എന്ന വെബ്‌സൈറ്റിലെ ഒരു ചർച്ചാ ബോർഡ് ആദ്യമായി കൃത്രിമബുദ്ധി (AI)-മാനിപ്പുലേറ്റഡ് പോണോഗ്രഫി ഹോസ്റ്റുചെയ്യാൻ ഉപയോഗിച്ചു. ഒരു മാസത്തിനുള്ളിൽ, റെഡ്ഡിറ്റ് ത്രെഡ് വൈറലായി, ആയിരക്കണക്കിന് ആളുകൾ അവരുടെ ഡീപ്ഫേക്ക് പോണോഗ്രഫി സൈറ്റിൽ പോസ്റ്റ് ചെയ്തു. വ്യാജ അശ്ലീലസാഹിത്യം അല്ലെങ്കിൽ ഉപദ്രവം സൃഷ്ടിക്കാൻ ഉപയോഗിക്കുന്ന സിന്തറ്റിക് ഉള്ളടക്കം കൂടുതൽ സാധാരണമാണ്, എന്നിട്ടും പൊതുതാൽപ്പര്യം പലപ്പോഴും തെറ്റായ വിവരങ്ങളും രാഷ്ട്രീയ അസ്ഥിരതയും പ്രോത്സാഹിപ്പിക്കുന്ന ഡീപ്ഫേക്കുകളിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു. 

AI യുടെ സഹായത്തോടെ ഫോട്ടോഗ്രാഫുകളും വീഡിയോകളും പുനർനിർമ്മിക്കുന്നതിനുള്ള ഒരു രീതിയായ "ഡീപ് ഫേക്ക്" എന്ന പദം "ഡീപ് ലേണിംഗ്", "ഫേക്ക്" എന്നിവയുടെ സംയോജനമാണ്. ഈ ഉള്ളടക്കത്തിന്റെ നിർമ്മാണത്തിലെ പ്രധാന ഘടകം മെഷീൻ ലേണിംഗ് (ML) ആണ്, ഇത് മനുഷ്യ കാഴ്ചക്കാർക്ക് കണ്ടുപിടിക്കാൻ കൂടുതൽ ബുദ്ധിമുട്ടുള്ള വ്യാജ മെറ്റീരിയൽ വേഗത്തിലും ചെലവുകുറഞ്ഞും സൃഷ്ടിക്കാൻ അനുവദിക്കുന്നു.

 ഒരു ന്യൂറൽ നെറ്റ്‌വർക്ക് ഒരു ഡീപ്ഫേക്ക് വീഡിയോ സൃഷ്‌ടിക്കാൻ ലക്ഷ്യമിടുന്ന വ്യക്തിയുടെ ഫൂട്ടേജ് ഉപയോഗിച്ച് പരിശീലിപ്പിക്കപ്പെടുന്നു. പരിശീലന ഡാറ്റയിൽ കൂടുതൽ ഫൂട്ടേജ് ഉപയോഗിക്കുന്നു, ഫലങ്ങൾ കൂടുതൽ യാഥാർത്ഥ്യമാകും; ആ വ്യക്തിയുടെ പെരുമാറ്റരീതികളും മറ്റ് വ്യക്തിത്വ സവിശേഷതകളും നെറ്റ്‌വർക്ക് പഠിക്കും. ന്യൂറൽ നെറ്റ്‌വർക്ക് പരിശീലിച്ചുകഴിഞ്ഞാൽ, ഒരു വ്യക്തിയുടെ സാദൃശ്യത്തിന്റെ ഒരു പകർപ്പ് മറ്റൊരു അഭിനേതാവിലേക്കോ ശരീരത്തിലേക്കോ അടിച്ചേൽപ്പിക്കാൻ ആർക്കും കമ്പ്യൂട്ടർ-ഗ്രാഫിക്‌സ് ടെക്‌നിക്കുകൾ ഉപയോഗിക്കാനാകും. ഈ കോപ്പിയടിയുടെ ഫലമായി സ്ത്രീ സെലിബ്രിറ്റികളുടെയും സാധാരണക്കാരുടെയും ചിത്രങ്ങൾ ഈ രീതിയിൽ ഉപയോഗിച്ചതായി അറിയാത്ത അശ്ലീല സാമഗ്രികളുടെ എണ്ണം വർദ്ധിക്കുന്നു. ഗവേഷണ സ്ഥാപനമായ സെൻസിറ്റി എഐയുടെ അഭിപ്രായത്തിൽ, ഡീപ്ഫേക്ക് വീഡിയോകളിൽ ഏകദേശം 90 മുതൽ 95 ശതമാനം വരെ സമ്മതമില്ലാത്ത പോണോഗ്രാഫി വിഭാഗത്തിൽ പെടുന്നു.

തടസ്സപ്പെടുത്തുന്ന ആഘാതം

ഡീപ്ഫേക്കുകൾ പ്രതികാര അശ്ലീല സമ്പ്രദായത്തെ കൂടുതൽ വഷളാക്കിയിരിക്കുന്നു, പ്രാഥമികമായി സ്ത്രീകളെ പൊതു അപമാനത്തിനും ആഘാതത്തിനും വിധേയമാക്കാൻ ലക്ഷ്യമിടുന്നു. എൻഡ്-ടു-എൻഡ് വ്യാജ വീഡിയോ സാങ്കേതികവിദ്യ കൂടുതൽ ആയുധമാക്കപ്പെടുന്നതിനാൽ സ്ത്രീകളുടെ സ്വകാര്യതയും സുരക്ഷയും അപകടത്തിലാണ്, ഉദാ, സ്ത്രീകളെ വ്യക്തിപരമായും തൊഴിൽപരമായും ഉപദ്രവിക്കൽ, ഭീഷണിപ്പെടുത്തൽ, അപമാനിക്കൽ, തരംതാഴ്ത്തൽ. മോശം, ഇത്തരത്തിലുള്ള ഉള്ളടക്കത്തിനെതിരെ മതിയായ നിയന്ത്രണമില്ല.

ഉദാഹരണത്തിന്, 2022-ലെ കണക്കനുസരിച്ച്, 46 യുഎസ് സംസ്ഥാനങ്ങളിൽ പ്രതികാര അശ്ലീല ഉള്ളടക്കം നിരോധിച്ചിരിക്കുന്നു, കൂടാതെ രണ്ട് സംസ്ഥാനങ്ങൾ മാത്രമാണ് സിന്തറ്റിക് മീഡിയയെ അവരുടെ നിരോധനത്തിൽ വ്യക്തമായി ഉൾപ്പെടുത്തുന്നത്. ഡീപ്ഫേക്കുകൾ സ്വയം നിയമവിരുദ്ധമല്ല, അവ പകർപ്പവകാശം ലംഘിക്കുകയോ അപകീർത്തികരമാകുകയോ ചെയ്യുമ്പോൾ മാത്രം. ഈ പരിമിതികൾ ഇരകൾക്ക് നിയമനടപടി സ്വീകരിക്കുന്നത് ബുദ്ധിമുട്ടാക്കുന്നു, പ്രത്യേകിച്ചും ഈ ഉള്ളടക്കം ഓൺലൈനിൽ ശാശ്വതമായി ഇല്ലാതാക്കാൻ ഒരു മാർഗവുമില്ലാത്തതിനാൽ.

അതേസമയം, സിന്തറ്റിക് ഉള്ളടക്കത്തിന്റെ മറ്റൊരു രൂപമായ അവതാറുകൾ (ഉപയോക്താക്കളുടെ ഓൺലൈൻ പ്രാതിനിധ്യം) ആക്രമണത്തിന് വിധേയമാകുന്നു. ലാഭേച്ഛയില്ലാതെ പ്രവർത്തിക്കുന്ന അഭിഭാഷക സംഘടനയായ SumOfUs-ന്റെ 2022 ലെ റിപ്പോർട്ട് അനുസരിച്ച്, സംഘടനയെ പ്രതിനിധീകരിച്ച് ഗവേഷണം നടത്തുന്ന ഒരു സ്ത്രീ Metaverse പ്ലാറ്റ്‌ഫോമായ ഹൊറൈസൺ വേൾഡിൽ ആക്രമിക്കപ്പെട്ടു. മറ്റുള്ളവർ നോക്കിനിൽക്കെ മറ്റൊരു ഉപയോക്താവ് തന്റെ അവതാരത്തെ ലൈംഗികമായി പീഡിപ്പിച്ചതായി യുവതി റിപ്പോർട്ട് ചെയ്തു. ഇര സംഭവം മെറ്റയുടെ ശ്രദ്ധയിൽപ്പെടുത്തിയപ്പോൾ, ഗവേഷകൻ പേഴ്‌സണൽ ബൗണ്ടറി ഓപ്ഷൻ നിർജ്ജീവമാക്കിയതായി മെറ്റാ വക്താവ് പറഞ്ഞു. സുരക്ഷാ മുൻകരുതൽ എന്ന നിലയിലാണ് 2022 ഫെബ്രുവരിയിൽ ഫീച്ചർ അവതരിപ്പിച്ചത്, കൂടാതെ അപരിചിതർ നാലടിക്കുള്ളിൽ അവതാറിനെ സമീപിക്കുന്നത് തടയുകയും ചെയ്തു.

ഡീപ്ഫേക്കുകളുടെയും ഉപദ്രവത്തിന്റെയും പ്രത്യാഘാതങ്ങൾ

ഡീപ്ഫേക്കുകളുടെയും ഉപദ്രവത്തിന്റെയും വ്യാപകമായ പ്രത്യാഘാതങ്ങൾ ഉൾപ്പെടാം: 

• ഡിജിറ്റൽ ഉപദ്രവത്തിനും ആക്രമണത്തിനും ഉപയോഗിക്കുന്ന ഡീപ്ഫേക്കുകൾക്കെതിരെ ആഗോള നിയന്ത്രണ നയം നടപ്പിലാക്കാൻ സർക്കാരുകൾക്ക് സമ്മർദ്ദം വർധിച്ചു.
• കൂടുതൽ സ്ത്രീകൾ ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യയുടെ ഇരകളാകുന്നു, പ്രത്യേകിച്ച് സെലിബ്രിറ്റികൾ, പത്രപ്രവർത്തകർ, ആക്ടിവിസ്റ്റുകൾ.
• വ്യാജ പീഡനത്തിനും അപകീർത്തിത്തിനും ഇരയായവരിൽ നിന്നുള്ള കേസുകളുടെ വർദ്ധനവ്. 
• മെറ്റാവേർസ് കമ്മ്യൂണിറ്റികളിൽ അവതാരങ്ങളോടും മറ്റ് ഓൺലൈൻ പ്രാതിനിധ്യങ്ങളോടും അനുചിതമായ പെരുമാറ്റത്തിന്റെ സംഭവങ്ങൾ വർദ്ധിച്ചു.
• റിയലിസ്റ്റിക് ഉള്ളടക്കം സൃഷ്ടിക്കാൻ കഴിയുന്ന പുതിയതും ഉപയോഗിക്കാൻ എളുപ്പമുള്ളതുമായ ഡീപ്ഫേക്ക് ആപ്പുകളും ഫിൽട്ടറുകളും പുറത്തിറങ്ങുന്നു, ഇത് സമ്മതമില്ലാത്ത ഡീപ്ഫേക്ക് ഉള്ളടക്കത്തിന്റെ, പ്രത്യേകിച്ച് പോണോഗ്രാഫിയുടെ ചരക്കുകളിലേക്ക് നയിക്കുന്നു.
• സോഷ്യൽ മീഡിയയും വെബ്‌സൈറ്റ് ഹോസ്റ്റിംഗ് പ്ലാറ്റ്‌ഫോമുകളും വ്യക്തികളെ നിരോധിക്കുകയോ ഗ്രൂപ്പ് പേജുകൾ നീക്കം ചെയ്യുകയോ ഉൾപ്പെടെ അവരുടെ പ്ലാറ്റ്‌ഫോമുകളിൽ പ്രചരിക്കുന്ന ഉള്ളടക്കം വളരെയധികം നിരീക്ഷിക്കുന്നതിന് കൂടുതൽ നിക്ഷേപം നടത്തുന്നു.

പരിഗണിക്കേണ്ട ചോദ്യങ്ങൾ

• നിങ്ങളുടെ ഗവൺമെന്റ് ആഴത്തിലുള്ള വ്യാജ പീഡനങ്ങളെ എങ്ങനെയാണ് കൈകാര്യം ചെയ്യുന്നത്?
• ഓൺലൈൻ ഉപയോക്താക്കൾക്ക് ഡീപ്ഫേക്ക് സ്രഷ്‌ടാക്കളുടെ ഇരകളിൽ നിന്ന് സ്വയം പരിരക്ഷിക്കാൻ കഴിയുന്ന മറ്റ് മാർഗങ്ങൾ ഏതാണ്?