دیپ فیک و آزار و اذیت: چگونه از محتوای مصنوعی برای آزار و اذیت زنان استفاده می شود

• نویسنده:
• نام نویسنده

  آینده نگاری کوانتوم ران
• دسامبر 14، 2022

خلاصه بینش

پیشرفت در فناوری دیپ فیک منجر به افزایش موارد آزار جنسی، به ویژه علیه زنان شده است. کارشناسان معتقدند تا زمانی که قوانین سخت گیرانه تری در مورد نحوه ایجاد، استفاده و توزیع رسانه های مصنوعی اعمال نشود، سوء استفاده بدتر خواهد شد. پیامدهای طولانی مدت استفاده از دیپ فیک برای آزار و اذیت می تواند شامل افزایش شکایت ها و فناوری ها و فیلترهای پیشرفته تر دیپ فیک باشد.

دیپ فیک و زمینه آزار و اذیت

در سال 2017، برای اولین بار از یک صفحه بحث در وب سایت Reddit برای میزبانی پورنوگرافی دستکاری شده توسط هوش مصنوعی (AI) استفاده شد. در عرض یک ماه، موضوع Reddit در فضای مجازی منتشر شد و هزاران نفر پورنوگرافی عمیق جعلی خود را در سایت منتشر کردند. محتوای مصنوعی که برای ایجاد هرزه‌نگاری جعلی یا آزار و اذیت استفاده می‌شود به طور فزاینده‌ای رایج است، با این حال منافع عمومی اغلب بر روی جعلی‌های تبلیغاتی متمرکز می‌شود که اطلاعات نادرست و بی‌ثباتی سیاسی را ترویج می‌کنند. 

اصطلاح «دیپ‌فیک» ترکیبی از «آموزش عمیق» و «جعلی» است که روشی برای بازسازی عکس‌ها و فیلم‌ها با کمک هوش مصنوعی است. مؤلفه اساسی در تولید این محتوا، یادگیری ماشینی (ML) است که امکان ایجاد سریع و ارزان مواد جعلی را فراهم می کند که تشخیص آن برای بینندگان انسانی به طور فزاینده ای دشوار است.

 یک شبکه عصبی با فیلم هایی از فرد مورد نظر آموزش داده می شود تا یک ویدیوی دیپ فیک ایجاد کند. هرچه فیلم بیشتری در داده های آموزشی استفاده شود، نتایج واقعی تر خواهد بود. شبکه رفتارهای آن شخص و سایر ویژگی های شخصیتی او را خواهد آموخت. هنگامی که شبکه عصبی آموزش داده شد، هر کسی می‌تواند از تکنیک‌های گرافیکی رایانه‌ای برای قرار دادن یک کپی از شباهت فرد بر روی بازیگر یا بدن دیگری استفاده کند. این کپی برداری منجر به افزایش تعداد زیادی از مطالب مستهجن زنان مشهور و غیرنظامیان شده است که از اینکه تصاویر آنها در این راه استفاده شده است. به گفته شرکت تحقیقاتی Sensity AI، تقریباً 90 تا 95 درصد از تمام ویدیوهای دیپ‌فیک در رده پورنوگرافی غیرقانونی قرار می‌گیرند.

تاثیر مخرب

دیپ فیک ها عمل پورن انتقام جویانه را بدتر کرده است و در درجه اول زنان را هدف قرار می دهد تا آنها را در معرض تحقیر و آسیب های عمومی قرار دهد. حریم خصوصی و امنیت زنان به خطر می‌افتد، زیرا فناوری ویدیوی جعلی سرتاسر به طور فزاینده‌ای به سلاح تبدیل می‌شود، به عنوان مثال، آزار، ارعاب، تحقیر و تحقیر زنان از نظر شخصی و حرفه‌ای. بدتر از آن، مقررات کافی در برابر این نوع محتوا وجود ندارد.

به عنوان مثال، از سال 2022، محتوای پورن انتقام جویانه در 46 ایالت ایالات متحده ممنوع است و تنها دو ایالت به صراحت رسانه های مصنوعی را در ممنوعیت خود پوشش می دهند. دیپ فیک به خودی خود غیرقانونی نیست، فقط زمانی که حق چاپ را نقض کند یا افتراآمیز شود. این محدودیت‌ها، پیگیری قانونی را برای قربانیان دشوار می‌کند، به‌ویژه از آنجایی که هیچ راهی برای حذف دائمی این محتوا به صورت آنلاین وجود ندارد.

در همین حال، شکل دیگری از محتوای مصنوعی، آواتارها (نمایش آنلاین کاربران)، نیز مورد حمله قرار می گیرد. طبق گزارشی در سال 2022 توسط سازمان غیرانتفاعی حمایت از SumOfUs، ظاهراً زنی که از طرف این سازمان در حال تحقیق بود در پلتفرم Metaverse Horizon Worlds مورد حمله قرار گرفت. این زن گزارش داد که کاربر دیگری در حالی که دیگران آن را تماشا می کردند، به آواتار او تجاوز جنسی کرد. زمانی که قربانی این حادثه را مورد توجه متا قرار داد، سخنگوی متا گفت که محقق گزینه Personal Boundary را غیرفعال کرده است. این ویژگی در فوریه 2022 به عنوان یک اقدام احتیاطی ایمنی که به طور پیش فرض فعال شده بود معرفی شد و از نزدیک شدن افراد غریبه به آواتار در فاصله چهار فوتی جلوگیری می کرد.

پیامدهای دیپ فیک و آزار و اذیت

پیامدهای گسترده تر دیپ فیک و آزار و اذیت ممکن است شامل موارد زیر باشد: 

• افزایش فشار برای دولت‌ها برای اجرای یک سیاست نظارتی جهانی علیه دیپ‌فیک‌هایی که برای آزار و اذیت و حمله دیجیتال استفاده می‌شوند.
• زنان بیشتری قربانی فناوری دیپ فیک می شوند، به ویژه افراد مشهور، روزنامه نگاران و فعالان.
• افزایش شکایت از سوی قربانیان آزار و اذیت و افترا. 
• افزایش حوادث رفتار نامناسب نسبت به آواتارها و دیگر نمایش‌های آنلاین در جوامع متاورس.
• اپلیکیشن‌ها و فیلترهای دیپ‌فیک جدید و به‌طور فزاینده‌ای آسان منتشر می‌شوند که می‌توانند محتوای واقع‌بینانه ایجاد کنند، که منجر به کالایی شدن محتوای دیپ‌فیک غیر توافقی، به‌ویژه پورنوگرافی می‌شود.
• رسانه‌های اجتماعی و پلت‌فرم‌های میزبانی وب‌سایت، سرمایه‌گذاری بیشتری برای نظارت بر محتوای منتشر شده در پلتفرم‌های خود، از جمله ممنوع کردن افراد یا حذف صفحات گروهی، انجام می‌دهند.

سوالاتی که باید در نظر گرفته شود

• دولت شما چگونه به آزار و اذیت دیپ فیک رسیدگی می کند؟
• راه های دیگری که کاربران آنلاین می توانند از قربانی شدن توسط سازندگان دیپ فیک محافظت کنند چیست؟