Deepfakes: cosa sono e perché contano

• Autore:
• Nome dell'autore

  Preveggenza quantistica
• Gennaio 19, 2022

Riepilogo approfondimenti

Deepfakes, una tecnologia che consente la creazione di video o audio falsi iperrealistici, è emersa nel 2017 e da allora ha suscitato preoccupazione e opportunità. Sebbene la tecnologia sia stata utilizzata in modo improprio per creare contenuti ingannevoli, offre anche potenziali vantaggi come il miglioramento della privacy online, la trasformazione delle strategie pubblicitarie e l'aiuto nelle forze dell'ordine. Tuttavia, le implicazioni a lungo termine dei deepfake sono vaste, e vanno dalla necessità di educazione all'alfabetizzazione digitale e alla crescita di un nuovo settore incentrato sul rilevamento dei deepfake, a considerazioni etiche e all'aumento del consumo di energia.

Contesto di deepfake

Il termine "deepfake" è entrato nella consapevolezza pubblica nel 2017 quando un utente di Reddit ha condiviso clip pornografiche che utilizzavano la tecnologia open source di scambio di volti. In questi video, hanno scambiato i volti di celebrità come Scarlett Johansson, Taylor Swift, Gal Gadot e altri con artisti pornografici. Questo era solo l'inizio.

La tecnologia Deepfake consente alle persone di creare video o audio di eventi che non si sono mai verificati. Ad esempio, celebrità e politici si sono ritrovati nei video a fare e dire cose che in realtà non hanno mai fatto o detto. Le preoccupazioni per immagini e audio falsi creati dalle tecnologie deepfake hanno portato a una proliferazione di contromisure. Per eliminare gli impatti negativi dei deepfake, è essenziale introdurre nuove leggi. Nel 2020, le piattaforme di social media, tra cui Twitter e Facebook, hanno bandito i deepfake dalle loro reti. 

Sono necessari alcuni passaggi per creare una clip deepfake di alta qualità. Innanzitutto, esegui migliaia di scatti al viso di due persone attraverso un codificatore. Il codificatore evidenzia le somiglianze tra i due volti e li abbassa a caratteristiche condivise comprimendo le immagini. Quindi, i volti vengono recuperati dalle foto compresse utilizzando un decoder. Poiché i volti sono diversi, un decoder viene addestrato per recuperare il viso della prima persona e un altro per recuperare il viso della seconda persona. Dopodiché, il creatore deve inserire le immagini codificate nel decodificatore "sbagliato" per applicare lo scambio di volti. 

Impatto dirompente

I deepfake, pur ponendo minacce significative, presentano anche opportunità uniche. Per gli individui, la capacità di creare personaggi digitali realistici potrebbe trasformare le interazioni online. Ad esempio, una persona potrebbe utilizzare un deepfake per mantenere la privacy durante le videochiamate, presentando un avatar digitale invece del proprio volto reale. Questa funzione potrebbe essere particolarmente utile in situazioni in cui la sicurezza personale o l'anonimato sono fondamentali.

Per le aziende, i deepfake potrebbero ridefinire le strategie pubblicitarie e di coinvolgimento dei clienti. Le aziende potrebbero creare portavoce virtuali, su misura per entrare in risonanza con diversi target di riferimento. Questa strategia potrebbe portare a campagne di marketing più personalizzate ed efficaci. Tuttavia, ciò solleva anche considerazioni etiche, in quanto i consumatori possono essere ingannati da rappresentazioni iperrealistiche ma artificiali.

I governi potrebbero utilizzare la tecnologia deepfake per scopi di pubblica sicurezza e sicurezza. Ad esempio, le forze dell'ordine potrebbero utilizzare i deepfake nelle operazioni di puntura, creando scenari realistici senza mettere a rischio gli ufficiali umani. Tuttavia, il potenziale di uso improprio è elevato ed è fondamentale che i governi stabiliscano norme rigorose per prevenire l'abuso di questa tecnologia. A lungo termine, l'impatto dei deepfake dipenderà in gran parte da quanto responsabilmente utilizzeremo e regoleremo questo potente strumento.

Implicazioni dei deepfake

Le implicazioni più ampie della tecnologia deepfake possono includere: 

• Il suo utilizzo nelle forze dell'ordine per ricostruire scene del crimine con l'interrelazione di artefatti temporali e spaziali. 
• Viene utilizzato dalle attività di vendita al dettaglio di moda per creare sale di prova virtuali in cui i clienti possono provare i prodotti preferiti senza provarli effettivamente.
• Fornire alle persone nuovi strumenti per l'integrazione e l'espressione di sé nel mondo online. Ad esempio, gli individui potrebbero creare avatar di se stessi per l'espressione personale online.
• L'uso avanzato e pervasivo di deepfake nei media da parte di più cattivi attori. In questo scenario peggiore, i deepfake possono compromettere la capacità della società di credere in ciò che vedono e sentono, rendendo fasce più ampie della società più suscettibili alla propaganda e alle varie forme di manipolazione.
• Un aumento della domanda di educazione all'alfabetizzazione digitale, che si traduce in una popolazione più informata e perspicace in grado di distinguere meglio tra contenuti reali e manipolati.
• Un nuovo settore incentrato sul rilevamento e la prevenzione dei deepfake, creando opportunità di lavoro e crescita economica.
• Progressi nell'intelligenza artificiale e nell'apprendimento automatico, spingendo i confini di ciò che è tecnologicamente possibile.
• Un aumento del consumo di energia, poiché la creazione e il rilevamento di deepfake richiedono risorse computazionali significative.

Domande da considerare

• Quali sono i potenziali impatti dei deepfake sulla società?
• Pensi che le leggi introdotte dai governi aiuteranno a eliminare le applicazioni negative dei deepfake? 
• A quali innovazioni può essere applicata la tecnologia deepfake in futuro?