Deepfake e molestie: come viene utilizzato il contenuto sintetico per molestare le donne

• Autore:
• Nome dell'autore

  Preveggenza quantistica
• Dicembre 14, 2022

Riepilogo approfondimenti

Gli sviluppi nella tecnologia deepfake hanno portato a un aumento degli episodi di molestie sessuali, in particolare contro le donne. Gli esperti ritengono che gli abusi peggioreranno a meno che non vengano applicate leggi più severe su come vengono creati, utilizzati e distribuiti i media sintetici. Le implicazioni a lungo termine dell’utilizzo dei deepfake a fini molesti potrebbero includere un aumento delle cause legali e tecnologie e filtri deepfake più avanzati.

Deepfake e contesto di molestie

Nel 2017, un forum di discussione sul sito Web Reddit è stato utilizzato per ospitare per la prima volta la pornografia manipolata dall'intelligenza artificiale (AI). Nel giro di un mese, il thread di Reddit è diventato virale e migliaia di persone hanno pubblicato la loro pornografia deepfake sul sito. I contenuti sintetici utilizzati per creare materiale pornografico falso o molestie sono sempre più comuni, ma l'interesse pubblico è spesso incentrato su deepfake di propaganda che promuovono la disinformazione e l'instabilità politica. 

Il termine "deepfake" è una combinazione di "apprendimento profondo" e "falso", un metodo per ricreare fotografie e video con l'aiuto dell'intelligenza artificiale. Il componente essenziale nella produzione di questo contenuto è l'apprendimento automatico (ML), che consente la creazione rapida ed economica di materiale falso che è sempre più difficile da rilevare per gli spettatori umani.

 Una rete neurale viene addestrata con filmati della persona presa di mira per creare un video deepfake. Più filmati utilizzati nei dati di allenamento, più realistici saranno i risultati; la rete imparerà i modi di fare di quella persona e altri tratti della personalità. Una volta che la rete neurale è stata addestrata, chiunque può utilizzare tecniche di computer grafica per sovrapporre una copia delle sembianze di una persona a un altro attore o corpo. Questa copia ha portato a un numero crescente di materiale pornografico di celebrità e civili ignari del fatto che le loro immagini sono state utilizzate in questo modo. Secondo la società di ricerca Sensity AI, circa il 90-95% di tutti i video deepfake rientra nella categoria della pornografia non consensuale.

Impatto dirompente

I deepfake hanno peggiorato la pratica del porno di vendetta, prendendo di mira principalmente le donne per esporle a umiliazioni e traumi pubblici. La privacy e la sicurezza delle donne sono messe a repentaglio poiché la tecnologia dei video falsi end-to-end è sempre più utilizzata come arma, ad esempio molestando, intimidendo, umiliando e degradando le donne a livello personale e professionale. Quel che è peggio è che non esiste una regolamentazione sufficiente contro questo tipo di contenuti.

Ad esempio, a partire dal 2022, i contenuti di pornografia di vendetta sono vietati in 46 stati degli Stati Uniti e solo due stati includono esplicitamente i media sintetici nel loro divieto. I deepfake non sono illegali di per sé, solo quando violano i diritti d'autore o diventano diffamatori. Queste limitazioni rendono difficile per le vittime intraprendere un'azione legale, soprattutto perché non è possibile eliminare permanentemente questi contenuti online.

Nel frattempo, anche un'altra forma di contenuto sintetico, gli avatar (rappresentazioni online degli utenti), è oggetto di aggressioni. Secondo un rapporto del 2022 dell'organizzazione senza scopo di lucro SumOfUs, una donna che faceva ricerche per conto dell'organizzazione sarebbe stata aggredita nella piattaforma Metaverse Horizon Worlds. La donna ha riferito che un altro utente ha aggredito sessualmente il suo avatar mentre altri lo guardavano. Quando la vittima ha portato l'incidente all'attenzione di Meta, un portavoce di Meta ha affermato che il ricercatore aveva disattivato l'opzione Limite personale. La funzione è stata introdotta nel febbraio 2022 come precauzione di sicurezza abilitata per impostazione predefinita e impediva agli estranei di avvicinarsi a un avatar entro quattro piedi.

Implicazioni di deepfake e molestie

Implicazioni più ampie di deepfake e molestie possono includere: 

• Maggiore pressione affinché i governi attuino una politica di regolamentazione globale contro i deepfake utilizzati per molestie e aggressioni digitali.
• Più donne sono vittime della tecnologia deepfake, in particolare celebrità, giornalisti e attivisti.
• Un aumento delle cause legali da parte di vittime di molestie e diffamazioni false. 
• Aumento degli episodi di comportamento inappropriato nei confronti di avatar e altre rappresentazioni online nelle comunità del metaverso.
• Nuove app e filtri deepfake nuovi e sempre più facili da usare in fase di rilascio che possono creare contenuti realistici, portando alla mercificazione di contenuti deepfake non consensuali, in particolare la pornografia.
• I social media e le piattaforme di hosting di siti Web investono di più per monitorare pesantemente i contenuti diffusi sulle loro piattaforme, incluso il divieto di individui o la rimozione di pagine di gruppo.

Domande da considerare

• In che modo il tuo governo sta affrontando le molestie deepfake?
• Quali sono gli altri modi in cui gli utenti online possono proteggersi dall'essere vittimizzati dai creatori di deepfake?