Deepfakes è fastidiu: Cumu u cuntenutu sinteticu hè adupratu per molestà e donne

• Author:
• Nome di l'autore

  Quantumrun Foresight
• December 14, 2022

Riassuntu insight

I sviluppi in a tecnulugia deepfake anu risultatu in un crescente incidente di fastidiu sessuale, in particulare contr'à e donne. L'esperti credi chì l'abusu aggravarà, salvu chì e leggi più strette nantu à cumu si creanu, utilizati è distribuiti i media sintetici sò infurzati. L'implicazioni à longu andà di l'usu di deepfake per u fastidiu puderia include l'aumentu di i prucessi è e tecnulugia è filtri deepfake più avanzati.

Deepfakes è cuntestu di fastidiu

In 2017, un forum di discussione nantu à u situ web Reddit hè stata utilizata per accoglie pornografia manipulata da l'intelligenza artificiale (AI) per a prima volta. In un mesi, u filu di Reddit hè diventatu virali, è millaie di persone anu publicatu a so pornografia deepfake in u situ. U cuntenutu sinteticu utilizatu per creà pornografia falsa o fastidiu hè sempre più cumuni, ma l'interessu publicu hè spessu focu annantu à i falsi di propaganda chì prumove a disinformazione è l'instabilità pulitica. 

U terminu "deepfake" hè una cumminazione di "deep learning" è "fake", un metudu per ricreà ritratti è video cù l'aiutu di AI. U cumpunente essenziale in a produzzione di stu cuntenutu hè l'apprendimentu automaticu (ML), chì permette a creazione rapida è pocu costu di materiale falsu chì hè sempre più difficiule per i telespettatori umani di detectà.

 Una rete neurale hè furmatu cù filmati di a persona destinata à creà un video deepfake. U più filmatu utilizatu in i dati di furmazione, u più realistu i risultati seranu; a reta ampararà i manierismi di quella persona è altri tratti di personalità. Una volta chì a rete neurale hè furmatu, qualcunu pò usà tecniche di computer-graphics per superpose una copia di a somiglianza di a persona à un altru attore o corpu. Questa copia hà risultatu in un numeru crescente di materiale pornograficu di celebrità femine è civili chì ùn sanu micca chì e so imagine sò state aduprate in questu modu. Sicondu a cumpagnia di ricerca Sensity AI, circa u 90 à u 95 per centu di tutti i video deepfake entra in a categuria di pornografia senza cunsensu.

Impact disruptive

I Deepfakes anu aggravatu a pratica di a vendetta pornografica, destinata principalmente à e donne per espunà à l'umiliazione è u traumu publicu. A privacy è a sicurità di e donne sò in periculu postu chì a tecnulugia di video falsi end-to-end hè sempre più armata, per esempiu, fastidiu, intimidazione, degradazione è degradazione di e donne in modu persunale è prufessiunale. Peor, ùn ci hè micca abbastanza regulazione contru stu tipu di cuntenutu.

Per esempiu, da u 2022, u cuntenutu porno di vendetta hè pruibitu in 46 stati di i Stati Uniti, è solu dui stati coprenu esplicitamente i media sintetici in a so prohibizione. I deepfakes ùn sò micca illegali per elli stessi, solu quandu violanu i diritti d'autore o diventanu diffamatori. Queste limitazioni facenu difficiule per e vittime di perseguite l'azzioni legale, soprattuttu perchè ùn ci hè manera di sguassà stu cuntenutu in linea permanentemente.

Intantu, una altra forma di cuntenutu sinteticu, avatars (rappresentazioni in linea di l'utilizatori), hè ancu sottumessu à l'assalti. Sicondu un rapportu 2022 da l'urganizazione di difesa senza prufittu SumOfUs, una donna chì cercava in nome di l'urganizazione hè stata presuntamente assaltata in a piattaforma Metaverse Horizon Worlds. A donna hà dettu chì un altru utilizatore hà assaltatu sessualmente u so avatar mentre l'altri anu vistu. Quandu a vittima hà purtatu l'incidentu à l'attenzione di Meta, un portavoce di Meta hà dettu chì l'investigatore avia disattivatu l'opzione Limite Personale. A funzione hè stata introdutta in ferraghju 2022 cum'è una precauzione di sicurezza attivata per difettu è impedisce à i stranieri di avvicinà un avatar à quattru piedi.

Implicazioni di deepfakes è fastidiu

Implicazioni più larghe di deepfakes è fastidiu ponu include: 

• Pressione aumentata per i guverni per implementà una pulitica regulatoria glubale contr'à i deepfakes utilizati per u fastidiu è l'assaltu digitale.
• Più donne sò vittime da a tecnulugia deepfake, in particulare celebrità, ghjurnalisti è attivisti.
• Un aumentu di i prucessi da e vittime di deepfake fastidiu è difamazione. 
• Incrementa l'incidenti di cumpurtamentu inappropriatu versu l'avatars è altre rapprisentazione in linea in e cumunità metaverse.
• Novu è sempre più faciule d'utilizà app deepfake è filtri chì sò liberati chì ponu creà cuntenutu realistu, purtendu à a cummercializazione di cuntenutu deepfake senza cunsensu, in particulare a pornografia.
• I media suciali è e plataforme di hosting di siti web chì investenu di più per monitorizà assai u cuntenutu circulatu nantu à e so piattaforme, cumprese a pruibizione di individui o a caduta di e pagine di gruppu.

Dumande da cunsiderà

• Cumu u vostru guvernu affronta u fastidiu deepfake?
• Chì sò l'altri modi chì l'utilizatori in linea ponu prutegge si da esse vittime da i creatori deepfake?