Deepfakes және қудалау: синтетикалық мазмұн әйелдерді қудалау үшін қалай пайдаланылады

• автор:
• Автордың аты-жөні

  Кванттық болжау
• Желтоқсан 14, 2022

Түсінікті қорытынды

Deepfake технологиясының дамуы әсіресе әйелдерге қатысты жыныстық қудалау оқиғаларының көбеюіне әкелді. Сарапшылардың пайымдауынша, синтетикалық ақпарат құралдарының қалай жасалатыны, пайдаланылғаны және таратылатыны туралы қатаң заңдар күшіне енбесе, қиянат күшейе түседі. Қудалау үшін терең фейктерді пайдаланудың ұзақ мерзімді салдары сот процестерінің көбеюін және тереңдетілген терең фейк технологиялары мен сүзгілерін қамтуы мүмкін.

Deepfakes және қудалау контексі

2017 жылы Reddit веб-сайтындағы талқылау тақтасы алғаш рет жасанды интеллект (AI) арқылы басқарылатын порнографияны орналастыру үшін пайдаланылды. Бір айдың ішінде Reddit желісі интернетке тарап, мыңдаған адамдар сайтта өздерінің терең фейк порнографиясын жариялады. Жалған порнография немесе қудалау жасау үшін пайдаланылатын синтетикалық мазмұн барған сайын кең таралған, бірақ қоғамдық қызығушылық жиі жалған ақпарат пен саяси тұрақсыздықты насихаттайтын терең фейктерді насихаттауға бағытталған. 

«Deepfake» термині «терең үйрену» және «жалған» тіркесімі, AI көмегімен фотосуреттер мен бейнелерді қайта жасау әдісі. Бұл мазмұнды шығарудың маңызды құрамдас бөлігі - адам көрушілері анықтау қиынға соғатын жалған материалды жылдам және арзан жасауға мүмкіндік беретін машиналық оқыту (ML).

 Нейрондық желі терең фейк бейне жасау үшін мақсатты адамның түсірілімімен оқытылады. Жаттығу деректерінде неғұрлым көп түсірілім пайдаланылса, нәтижелер соғұрлым шынайы болады; желі сол адамның мінез-құлқы мен басқа да жеке қасиеттерін үйренеді. Нейрондық желіні үйреткеннен кейін кез келген адам компьютерлік графика әдістерін қолдана отырып, адамның ұқсастығының көшірмесін басқа актерге немесе денеге түсіре алады. Бұл көшіру атақты әйелдер мен бейбіт тұрғындардың суреттерінің осылай пайдаланылғанын білмейтін порнографиялық материалдарының көбеюіне әкелді. Sensity AI зерттеу фирмасының мәліметі бойынша, барлық терең фейк бейнелерінің шамамен 90-95 пайызы консенсуалды емес порнографиялық санатқа жатады.

Деструктивті әсер

Deepfakes кек алу порносының тәжірибесін нашарлатты, ең алдымен әйелдерді қоғамдық қорлау мен жарақатқа ұшыратуға бағытталған. Әйелдердің жеке өмірі мен қауіпсіздігіне қатер төніп тұр, өйткені жалған бейне технологиясы барған сайын қарулануда, мысалы, әйелдерді жеке және кәсіби тұрғыдан қорлайтын, қорқытатын, кемсітетін және қорлайтын. Ең сорақысы, бұл мазмұн түріне қатысты реттеу жеткіліксіз.

Мысалы, 2022 жылдан бастап АҚШ-тың 46 штатында кек алу порно контентіне тыйым салынған және тек екі штатта синтетикалық медиаға тыйым салынған. Deepfakes өздігінен заңсыз болып табылмайды, тек авторлық құқықтарды бұзған немесе жала жабуға айналған кезде ғана. Бұл шектеулер жәбірленушілерге сот ісін жүргізуді қиындатады, әсіресе бұл мазмұнды желіде біржола жою мүмкіндігі болмағандықтан.

Сонымен қатар, синтетикалық мазмұнның тағы бір түрі, аватарлар (пайдаланушылардың онлайн-көрсетілімдері) де шабуылға ұшырауда. SumOfUs коммерциялық емес адвокаттық ұйымының 2022 жылғы есебіне сәйкес, ұйым атынан зерттеу жүргізетін әйелге Metaverse Horizon Worlds платформасында шабуыл жасалды деген болжам бар. Әйел басқа қолданушы оның аватарын басқалар қарап тұрғанда сексуалды түрде зорлағанын хабарлады. Жәбірленуші оқиғаны Метаға жеткізген кезде, Мета өкілі зерттеуші Жеке шекара опциясын өшіргенін айтты. Бұл мүмкіндік 2022 жылдың ақпан айында әдепкі бойынша қосылған қауіпсіздік шарасы ретінде енгізілді және бейтаныс адамдардың аватарға төрт фут қашықтықта жақындауына жол бермейді.

Депфакс пен қудалаудың салдары

Депфакс пен қудалаудың кеңірек салдары мыналарды қамтуы мүмкін: 

• Сандық қудалау мен шабуыл үшін қолданылатын терең фейктерге қарсы жаһандық реттеу саясатын жүзеге асыру үшін үкіметтерге қысымның артуы.
• Deepfake технологиясының құрбаны болған әйелдердің саны көбірек, әсіресе атақты адамдар, журналистер және белсенділер.
• Терең жалған қудалау мен жала жабу құрбандарының сотқа жүгінуінің артуы. 
• Аватарларға және басқа да онлайн көріністерге қатысты орынсыз мінез-құлық оқиғаларының артуы.
• Шынайы мазмұнды жасай алатын жаңа және пайдалану оңайырақ қосымшалар мен сүзгілер шығарылуда, бұл консенсуалды емес терең фейк мазмұнды, әсіресе порнографияны тауарға айналдырады.
• Әлеуметтік медиа және веб-сайт хостинг платформалары өздерінің платформаларында таратылатын мазмұнды, соның ішінде жеке тұлғаларға тыйым салуды немесе топтық беттерді жоюды бақылау үшін көбірек инвестициялайды.

Қарастырылатын сұрақтар

• Сіздің үкіметіңіз терең жалған қудалауды қалай шешеді?
• Желідегі пайдаланушылар өздерін терең фейк жасаушылардың құрбандығынан қорғаудың тағы қандай жолдары бар?