Deepfakes і пераслед: як сінтэтычны кантэнт выкарыстоўваецца для пераследу жанчын

КРЭДЫТ ВЫЯВЫ:
Крэдыт малюнка
Istock

Deepfakes і пераслед: як сінтэтычны кантэнт выкарыстоўваецца для пераследу жанчын

Deepfakes і пераслед: як сінтэтычны кантэнт выкарыстоўваецца для пераследу жанчын

Тэкст падзагалоўка
Маніпуляваныя выявы і відэа ўносяць свой уклад у лічбавае асяроддзе, арыентаванае на жанчын.
    • аўтар:
    • імя аўтара
      Quantumrun Foresight
    • Снежань 14, 2022

    Кароткі агляд

    Развіццё тэхналогіі deepfake прывяло да павелічэння выпадкаў сэксуальных дамаганняў, асабліва ў дачыненні да жанчын. Эксперты мяркуюць, што злоўжыванне будзе пагаршацца, калі не будуць уведзены ў дзеянне больш жорсткія законы аб тым, як ствараюцца, выкарыстоўваюцца і распаўсюджваюцца сінтэтычныя носьбіты. Доўгатэрміновыя наступствы выкарыстання дыпфейкаў для пераследу могуць уключаць павелічэнне судовых працэсаў і больш дасканалыя тэхналогіі і фільтры дыпфейкаў.

    Дыпфейкі і кантэкст пераследу

    У 2017 годзе дошка абмеркаванняў на вэб-сайце Reddit была ўпершыню выкарыстана для размяшчэння парнаграфіі з дапамогай штучнага інтэлекту (AI). На працягу месяца тэма Reddit стала віруснай, і тысячы людзей размясцілі на сайце сваю падробленую парнаграфію. Сінтэтычны кантэнт, які выкарыстоўваецца для стварэння фальшывай парнаграфіі або пераследу, становіцца ўсё больш распаўсюджаным, аднак грамадская цікавасць часта засяроджваецца на прапагандысцкіх глыбокіх фэйках, якія спрыяюць дэзінфармацыі і палітычнай нестабільнасці. 

    Тэрмін "deepfake" - гэта спалучэнне "глыбокага навучання" і "падробкі", метаду ўзнаўлення фатаграфій і відэа з дапамогай штучнага інтэлекту. Важным кампанентам у вытворчасці гэтага змесціва з'яўляецца машыннае навучанне (ML), якое дазваляе хутка і недарагім ствараць фальшывыя матэрыялы, якія ўсё цяжэй выявіць гледачам.

     Нейронная сетка навучаецца з кадрамі мэтавага чалавека, каб стварыць відэа падробкі. Чым больш кадраў выкарыстоўваецца ў навучальных дадзеных, тым больш рэалістычнымі будуць вынікі; сетка даведаецца пра манеры і іншыя рысы асобы гэтага чалавека. Пасля таго, як нейронавая сетка навучана, кожны можа выкарыстоўваць метады камп'ютэрнай графікі, каб накласці копію падабенства чалавека на іншага акцёра або цела. Гэтае капіраванне прывяло да росту колькасці парнаграфічных матэрыялаў знакамітасцяў і грамадзянскіх асоб, якія не ведаюць, што іх выявы выкарыстоўваліся такім чынам. Па дадзеных даследчай фірмы Sensity AI, прыкладна ад 90 да 95 працэнтаў усіх відэаролікаў deepfake адносяцца да катэгорыі парнаграфіі без згоды.

    Разбуральнае ўздзеянне

    Глыбокія фэйкі пагоршылі практыку порна з помсты, у першую чаргу накіраванае на жанчын, каб падвергнуць іх публічнаму прыніжэнню і траўмам. Канфідэнцыяльнасць і бяспека жанчын знаходзяцца пад пагрозай, паколькі скразныя фальшывыя відэатэхналогіі ўсё часцей становяцца зброяй, напрыклад, пераследуюць, запалохваюць, прыніжаюць годнасць і прыніжаюць жанчын асабіста і прафесійна. Што яшчэ горш, няма дастатковага рэгулявання супраць гэтага тыпу кантэнту.

    Напрыклад, па стане на 2022 год порна-кантэнт помсты забаронены ў 46 штатах ЗША, і толькі два штаты відавочна ахопліваюць у сваёй забароне сінтэтычныя медыя. Deepfakes не з'яўляюцца незаконнымі самі па сабе, толькі калі яны парушаюць аўтарскія правы або становяцца паклёпніцкімі. Гэтыя абмежаванні ўскладняюць пацярпелым магчымасць падаць у суд, асабліва таму, што немагчыма назаўсёды выдаліць гэты кантэнт у Інтэрнэце.

    Між тым, іншая форма сінтэтычнага кантэнту, аватары (інтэрнэт-рэпрэзентацыі карыстальнікаў), таксама падвяргаецца нападам. Згодна са справаздачай некамерцыйнай прапагандысцкай арганізацыі SumOfUs за 2022 год, жанчына, якая займалася даследаваннем ад імя арганізацыі, нібыта падверглася нападу на платформе Metaverse Horizon Worlds. Жанчына паведаміла, што іншы карыстальнік здзейсніў сэксуальны гвалт над яе аватаркаю, пакуль іншыя назіралі. Калі ахвяра прывяла да ведама Меты пра інцыдэнт, прэс-сакратар Meta сказаў, што даследчык дэактываваў опцыю Personal Boundary. Функцыя была прадстаўлена ў лютым 2022 года як мера бяспекі, уключаная па змаўчанні і не дазваляла незнаёмцам набліжацца да аватара на адлегласці чатырох футаў.

    Наступствы дыпфейкаў і пераследу

    Больш шырокія наступствы дыпфейкаў і пераследу могуць уключаць: 

    • Узмацненне ціску на ўрады з мэтай ажыццяўлення глабальнай палітыкі рэгулявання супраць дыпфейкаў, якія выкарыстоўваюцца для лічбавага пераследу і нападу.
    • Усё больш жанчын становяцца ахвярамі тэхналогіі deepfake, асабліва знакамітасці, журналісты і актывісткі.
    • Павелічэнне колькасці судовых іскаў ад ахвяраў пераследу і паклёпу ў глыбокай падробцы. 
    • Павелічэнне выпадкаў неадэкватных паводзін у адносінах да аватараў і іншых інтэрнэт-рэпрэзентацый у суполках метасусвету.
    • Выпускаюцца новыя і ўсё больш простыя ў выкарыстанні праграмы і фільтры deepfake, якія могуць ствараць рэалістычны кантэнт, што вядзе да камадыфікацыі несанкцыянаванага deepfake кантэнту, асабліва парнаграфіі.
    • Сацыяльныя сеткі і платформы хостынгу вэб-сайтаў укладваюць больш сродкаў у інтэнсіўны маніторынг змесціва, якое распаўсюджваецца на іх платформах, у тым ліку бан асобных асоб або выдаленне старонак груп.

    Пытанні для разгляду

    • Як ваш урад змагаецца з глыбокім фэйкам?
    • Якімі іншымі спосабамі онлайн-карыстальнікі могуць абараніць сябе ад ахвяры стваральнікаў deepfake?