Deepfalsaĵoj kaj ĉikano: Kiel sinteza enhavo estas uzata por ĉikani virinojn

• Aŭtoro:
• Aŭtora nomo

  Quantumrun Foresight
• Decembro 14, 2022

Enrigarda resumo

Evoluoj en deepfalsa teknologio rezultigis kreskantajn okazaĵojn de seksĉikanado, precipe kontraŭ virinoj. Fakuloj opinias, ke misuzo plimalboniĝos krom se pli striktaj leĝoj pri kiel sintezaj amaskomunikiloj estas kreitaj, uzataj kaj distribuitaj estas devigitaj. La longperspektivaj implicoj de uzado de deepfalsaĵoj por ĉikano povus inkluzivi pliigitajn procesojn kaj pli progresintajn deepfalsaĵojn kaj filtrilojn.

Deepfalsaĵoj kaj ĉikano kunteksto

En 2017, diskutejo en la retejo Reddit estis uzata por gastigi pornografion manipulitan por artefarita inteligenteco (AI) unuafoje. Ene de monato, la Reddit-fadeno iĝis viral, kaj miloj da homoj afiŝis sian profundan falsan pornografion en la retejo. Sinteza enhavo uzata por krei falsan pornografion aŭ ĉikanon estas ĉiam pli ofta, tamen publika intereso estas ofte fokusita al propagandaj profundaj falsaĵoj, kiuj antaŭenigas misinformadon kaj politikan malstabilecon. 

La termino "deepfake" estas kombinaĵo de "profunda lernado" kaj "falsa", metodo por rekrei fotojn kaj filmetojn helpe de AI. La esenca komponanto en la produktado de ĉi tiu enhavo estas maŝinlernado (ML), kiu permesas la rapidan kaj malmultekostan kreadon de falsa materialo, kiu estas ĉiam pli malfacila por homaj spektantoj detekti.

 Neŭrala reto estas trejnita kun filmaĵo de la celita persono por krei profundan falsan videon. Ju pli da bildoj uzataj en la trejnaj datumoj, des pli realismaj estos la rezultoj; la reto lernos la manierojn kaj aliajn personecajn trajtojn de tiu persono. Post kiam la neŭrala reto estas trejnita, iu ajn povas uzi komputilajn grafikajn teknikojn por supermeti kopion de la simileco de persono al alia aktoro aŭ korpo. Tiu kopiado rezultigis kreskantan nombron da pornografiaj materialoj de inaj famuloj kaj civiluloj nekonsciaj ke iliaj bildoj estis uzitaj tiamaniere. Laŭ esplorfirmao Sensity AI, ĉirkaŭ 90 ĝis 95 procentoj de ĉiuj deepfalsaj videoj apartenas al la nekonsenta pornografia kategorio.

Disrompa efiko

Deepfakes plimalbonigis la praktikon de venĝa porno, ĉefe celante virinojn por eksponi ilin al publika humiligo kaj traŭmato. Virina privateco kaj sekureco estas endanĝerigitaj ĉar fin-al-fina falsa videoteknologio estas ĉiam pli armiligita, ekz-e, ĉikanado, timigado, humiligado, kaj degradante virinojn persone kaj profesie. Pli malbone, ne ekzistas sufiĉe da reguligo kontraŭ ĉi tiu tipo de enhavo.

Ekzemple, aktuale en 2022, venĝa pornenhavo estas malpermesita en 46 usonaj ŝtatoj, kaj nur du ŝtatoj eksplicite kovras sintezajn amaskomunikilarojn en sia malpermeso. Deepfalsaĵoj ne estas kontraŭleĝaj per si mem, nur kiam ili rompas kopirajtojn aŭ iĝas kalumniaj. Ĉi tiuj limigoj malfaciligas viktimojn plenumi juran agon, precipe ĉar ne ekzistas maniero forigi ĉi tiun enhavon interrete konstante.

Dume, alia formo de sinteza enhavo, avataroj (reprezentoj de uzantoj), ankaŭ estas submetita al atakoj. Laŭ raporto de 2022 de neprofitcela lobiadorganizo SumOfUs, virino esploranta nome de la organizo estis supozeble atakita en la Metaverse-platformo Horizon Worlds. La virino raportis, ke alia uzanto sekse atakis ŝian avataron dum aliaj rigardis. Kiam la viktimo alportis la okazaĵon al la atento de Meta, Meta-reprezentanto diris ke la esploristo malaktivigis la Personal Boundary opcion. La funkcio estis lanĉita en februaro 2022 kiel sekureca antaŭzorgo ebligita defaŭlte kaj malhelpis fremdulojn alproksimiĝi al avataro ene de kvar futoj.

Implikoj de deepfalsaĵoj kaj ĉikano

Pli larĝaj implicoj de deepfalsaĵoj kaj ĉikano povas inkludi: 

• Pliigita premo por registaroj efektivigi tutmondan reguligan politikon kontraŭ deepfalsaĵoj uzataj por cifereca ĉikano kaj sturmo.
• Pli da virinoj estas viktimigitaj de deepfalsa teknologio, precipe famuloj, ĵurnalistoj kaj aktivuloj.
• Pliiĝo en procesoj de viktimoj de profunda falsa ĉikano kaj kalumnio. 
• Pliigitaj okazaĵoj de malkonvena konduto al avataroj kaj aliaj interretaj reprezentadoj en metaversaj komunumoj.
• Novaj kaj ĉiam pli facile uzeblaj deepfalsaj aplikaĵoj kaj filtriloj estantaj liberigitaj, kiuj povas krei realisman enhavon, kondukante al la komercigo de senkonsenta profunda falsa enhavo, precipe pornografio.
• Sociaj amaskomunikiloj kaj retejaj gastigaj platformoj investas pli por peze monitori enhavon cirkulitan sur siaj platformoj, inkluzive de malpermesado de individuoj aŭ forigo de gruppaĝoj.

Konsiderindaj demandoj

• Kiel via registaro traktas profundan falsan ĉikanon?
• Kiuj estas la aliaj manieroj, kiujn interretaj uzantoj povas protekti sin kontraŭ viktimiĝo de deepfalsaj kreintoj?