ڈیپ فیکس اور ہراساں کرنا: خواتین کو ہراساں کرنے کے لیے کس طرح مصنوعی مواد استعمال کیا جاتا ہے۔

• مصنف:
• مصنف کا نام

  Quantumrun دور اندیشی
• دسمبر 14، 2022

بصیرت کا خلاصہ

ڈیپ فیک ٹیکنالوجی میں ترقی کے نتیجے میں جنسی طور پر ہراساں کرنے کے واقعات میں اضافہ ہوا ہے، خاص طور پر خواتین کے خلاف۔ ماہرین کا خیال ہے کہ بدسلوکی اس وقت تک بڑھے گی جب تک کہ مصنوعی میڈیا کی تخلیق، استعمال اور تقسیم کے بارے میں سخت قوانین نافذ نہیں کیے جاتے۔ ہراساں کرنے کے لیے ڈیپ فیکس کے استعمال کے طویل مدتی مضمرات میں بڑھتے ہوئے مقدمے اور مزید جدید ڈیپ فیک ٹیکنالوجیز اور فلٹرز شامل ہو سکتے ہیں۔

ڈیپ فیکس اور ہراساں کرنے کا سیاق و سباق

2017 میں، ویب سائٹ Reddit پر ایک ڈسکشن بورڈ کو پہلی بار مصنوعی ذہانت (AI) سے ہیرا پھیری کی گئی پورنوگرافی کی میزبانی کے لیے استعمال کیا گیا۔ ایک مہینے کے اندر، Reddit تھریڈ وائرل ہو گیا، اور ہزاروں لوگوں نے اپنی ڈیپ فیک پورنوگرافی سائٹ پر پوسٹ کر دی۔ جعلی پورنوگرافی بنانے یا ہراساں کرنے کے لیے استعمال ہونے والا مصنوعی مواد تیزی سے عام ہوتا جا رہا ہے، اس کے باوجود عوامی دلچسپی اکثر پروپیگنڈا ڈیپ فیکس پر مرکوز ہوتی ہے جو غلط معلومات اور سیاسی عدم استحکام کو فروغ دیتے ہیں۔ 

"ڈیپ فیک" کی اصطلاح "ڈیپ لرننگ" اور "جعلی" کا مجموعہ ہے، جو AI کی مدد سے تصاویر اور ویڈیوز کو دوبارہ بنانے کا طریقہ ہے۔ اس مواد کی تیاری میں ضروری جزو مشین لرننگ (ML) ہے، جو جعلی مواد کی تیز رفتار اور سستی تخلیق کی اجازت دیتا ہے جس کا پتہ لگانا انسانی ناظرین کے لیے مشکل ہوتا جا رہا ہے۔

 ایک نیورل نیٹ ورک کو ڈیپ فیک ویڈیو بنانے کے لیے ہدف بنائے گئے شخص کی فوٹیج کے ساتھ تربیت دی جاتی ہے۔ تربیتی ڈیٹا میں جتنی زیادہ فوٹیج استعمال کی جائے گی، نتائج اتنے ہی زیادہ حقیقت پسندانہ ہوں گے۔ نیٹ ورک اس شخص کے طرز عمل اور شخصیت کی دیگر خصوصیات کو سیکھے گا۔ نیورل نیٹ ورک کو تربیت دینے کے بعد، کوئی بھی شخص کمپیوٹر گرافکس تکنیک کا استعمال کر سکتا ہے تاکہ کسی دوسرے اداکار یا جسم پر کسی شخص کی مشابہت کی نقل کو سپرد کیا جا سکے۔ اس نقل کے نتیجے میں خواتین مشہور شخصیات اور عام شہریوں کے فحش مواد کی تعداد میں اضافہ ہوا ہے جو اس بات سے بے خبر ہیں کہ ان کی تصاویر کو اس طرح استعمال کیا گیا ہے۔ ریسرچ فرم Sensity AI کے مطابق، تمام ڈیپ فیک ویڈیوز میں سے تقریباً 90 سے 95 فیصد غیر متفقہ فحش مواد کے زمرے میں آتے ہیں۔

خلل ڈالنے والا اثر

ڈیپ فیکس نے انتقامی پورن کے رواج کو مزید خراب کر دیا ہے، بنیادی طور پر خواتین کو نشانہ بناتے ہوئے انہیں عوامی تذلیل اور صدمے کا سامنا کرنا پڑتا ہے۔ خواتین کی رازداری اور حفاظت خطرے میں پڑ گئی ہے کیونکہ آخر سے آخر تک جعلی ویڈیو ٹیکنالوجی تیزی سے ہتھیار بنتی جا رہی ہے، جیسے کہ خواتین کو ذاتی اور پیشہ ورانہ طور پر ہراساں کرنا، دھمکیاں دینا، ان کی تذلیل کرنا اور ان کی تذلیل کرنا۔ اس سے بھی بدتر بات یہ ہے کہ اس قسم کے مواد کے خلاف کافی ضابطے نہیں ہیں۔

مثال کے طور پر، 2022 تک، 46 امریکی ریاستوں میں انتقامی فحش مواد پر پابندی عائد ہے، اور صرف دو ریاستیں واضح طور پر مصنوعی میڈیا کا احاطہ کرتی ہیں۔ ڈیپ فیکس بذات خود غیر قانونی نہیں ہیں، صرف تب جب وہ کاپی رائٹس کی خلاف ورزی کرتے ہیں یا ہتک آمیز بن جاتے ہیں۔ ان حدود کی وجہ سے متاثرین کے لیے قانونی کارروائی کرنا مشکل ہو جاتا ہے، خاص طور پر چونکہ اس مواد کو آن لائن مستقل طور پر حذف کرنے کا کوئی طریقہ نہیں ہے۔

دریں اثنا، مصنوعی مواد کی ایک اور شکل، اوتار (صارفین کی آن لائن نمائندگی) کو بھی حملوں کا نشانہ بنایا جا رہا ہے۔ غیر منافع بخش وکالت کرنے والی تنظیم SumOfUs کی 2022 کی رپورٹ کے مطابق، تنظیم کی جانب سے تحقیق کرنے والی ایک خاتون پر مبینہ طور پر Metaverse پلیٹ فارم Horizon Worlds میں حملہ کیا گیا۔ خاتون نے بتایا کہ ایک اور صارف نے اس کے اوتار کو جنسی طور پر ہراساں کیا جب کہ دوسرے اسے دیکھ رہے تھے۔ جب متاثرہ نے یہ واقعہ میٹا کی توجہ میں لایا تو میٹا کے ایک ترجمان نے کہا کہ محقق نے پرسنل باؤنڈری آپشن کو غیر فعال کر دیا ہے۔ اس خصوصیت کو فروری 2022 میں ایک حفاظتی احتیاط کے طور پر متعارف کرایا گیا تھا جو پہلے سے طے شدہ طور پر فعال کیا گیا تھا اور اجنبیوں کو چار فٹ کے اندر اوتار کے قریب جانے سے روکتا تھا۔

ڈیپ فیکس اور ہراساں کرنے کے مضمرات

ڈیپ فیکس اور ہراساں کرنے کے وسیع مضمرات میں شامل ہو سکتے ہیں: 

• ڈیجیٹل ہراساں کرنے اور حملے کے لیے استعمال ہونے والے ڈیپ فیکس کے خلاف عالمی ریگولیٹری پالیسی کو نافذ کرنے کے لیے حکومتوں پر دباؤ میں اضافہ۔
• ڈیپ فیک ٹکنالوجی کا شکار ہونے والی زیادہ خواتین، خاص طور پر مشہور شخصیات، صحافی اور کارکن۔
• ڈیپ فیک ایذا رسانی اور ہتک عزت کے متاثرین کی جانب سے مقدمات میں اضافہ۔ 
• میٹاورس کمیونٹیز میں اوتاروں اور دیگر آن لائن نمائندگیوں کے لیے نامناسب رویے کے بڑھتے ہوئے واقعات۔
• نئی اور تیزی سے استعمال میں آسان ڈیپ فیک ایپس اور فلٹرز جاری کیے جا رہے ہیں جو حقیقت پسندانہ مواد تخلیق کر سکتے ہیں، جس کے نتیجے میں غیر متفقہ ڈیپ فیک مواد، خاص طور پر فحش مواد کو استعمال کیا جا سکتا ہے۔
• سوشل میڈیا اور ویب سائٹ ہوسٹنگ پلیٹ فارم اپنے پلیٹ فارمز پر گردش کرنے والے مواد کی بھاری نگرانی کے لیے زیادہ سرمایہ کاری کرتے ہیں، بشمول افراد پر پابندی لگانا یا گروپ کے صفحات کو ہٹانا۔

غور کرنے کے لیے سوالات۔

• آپ کی حکومت ڈیپ فیک ہراسمنٹ سے کیسے نمٹ رہی ہے؟
• دوسرے کون سے طریقے ہیں جن سے آن لائن صارفین اپنے آپ کو ڈیپ فیک تخلیق کاروں کے شکار ہونے سے بچا سکتے ہیں؟