Deepfakes e acoso: como se usa o contido sintético para acosar ás mulleres

• autor:
• nome do autor

  Previsión de Quantumrun
• Decembro 14, 2022

Resumo de insight

Os desenvolvementos da tecnoloxía deepfake deron lugar a un aumento dos incidentes de acoso sexual, especialmente contra as mulleres. Os expertos cren que o abuso empeorará a menos que se apliquen leis máis estritas sobre como se crean, usan e distribúen os medios sintéticos. As implicacións a longo prazo do uso de deepfake para o acoso poderían incluír un aumento das demandas e tecnoloxías e filtros deepfake máis avanzados.

Deepfakes e contexto de acoso

En 2017, utilizouse un foro de discusión no sitio web Reddit para albergar pornografía manipulada por intelixencia artificial (IA) por primeira vez. Nun mes, o fío de Reddit fíxose viral e miles de persoas publicaran a súa pornografía falsa no sitio. O contido sintético usado para crear pornografía falsa ou acoso é cada vez máis común, aínda que o interese público adoita centrarse nas falsificacións de propaganda que promoven a desinformación e a inestabilidade política. 

O termo "deepfake" é unha combinación de "aprendizaxe profunda" e "fake", un método para recrear fotografías e vídeos coa axuda da IA. O compoñente esencial na produción deste contido é a aprendizaxe automática (ML), que permite a creación rápida e barata de material falso que é cada vez máis difícil de detectar para os espectadores humanos.

 Adestrase unha rede neuronal con imaxes da persoa obxecto de aprendizaxe para crear un vídeo deepfake. Cantas máis imaxes se usen nos datos de adestramento, máis realistas serán os resultados; a rede aprenderá os modais desa persoa e outros trazos de personalidade. Unha vez que a rede neuronal está adestrada, calquera pode usar técnicas de gráficos por ordenador para superpoñer unha copia da semellanza dunha persoa a outro actor ou corpo. Esta copia deu lugar a un aumento do número de materiais pornográficos de celebridades femininas e civís que descoñecen que as súas imaxes foron utilizadas deste xeito. Segundo a firma de investigación Sensity AI, entre o 90 e o 95 por cento de todos os vídeos deepfake entran na categoría de pornografía non consentida.

Impacto perturbador

Os deepfakes empeoraron a práctica da pornografía de vinganza, dirixíndose principalmente ás mulleres para expoñelas a humillacións e traumas públicos. A privacidade e a seguridade das mulleres póñense en perigo xa que a tecnoloxía de vídeo falso de extremo a extremo está cada vez máis utilizada como arma, por exemplo, acosando, intimidando, degradando e degradando ás mulleres persoal e profesionalmente. Peor aínda, non hai suficiente regulación contra este tipo de contidos.

Por exemplo, a partir de 2022, o contido de pornografía de vinganza está prohibido en 46 estados dos Estados Unidos e só dous estados cobren explícitamente os medios sintéticos na súa prohibición. Os deepfakes non son ilegais por si só, só cando incumpren os dereitos de autor ou se converten en difamatorios. Estas limitacións dificultan que as vítimas emprendan accións legais, especialmente porque non hai forma de eliminar este contido en liña de forma permanente.

Mentres, outra forma de contido sintético, os avatares (representacións en liña de usuarios), tamén está a ser obxecto de agresións. Segundo un informe de 2022 da organización de defensa sen ánimo de lucro SumOfUs, unha muller que investigaba en nome da organización foi supostamente agredida na plataforma Metaverse Horizon Worlds. A muller informou de que outra usuaria agrediu sexualmente o seu avatar mentres outros miraban. Cando a vítima puxo o incidente en coñecemento de Meta, un portavoz de Meta dixo que o investigador desactivara a opción de Límite persoal. A función introduciuse en febreiro de 2022 como unha precaución de seguridade activada de forma predeterminada e impediu que os estraños se achegasen a un avatar a menos de catro pés.

Implicacións de deepfakes e acoso

As implicacións máis amplas das falsificacións profundas e do acoso poden incluír: 

• Aumento da presión para que os gobernos implementen unha política reguladora global contra os deepfakes utilizados para o acoso e as agresións dixitais.
• Máis mulleres son vítimas da tecnoloxía deepfake, especialmente celebridades, xornalistas e activistas.
• Un aumento das demandas de vítimas de acoso e difamación deepfake. 
• Aumento dos incidentes de comportamento inadecuado cara aos avatares e outras representacións en liña nas comunidades de metaverso.
• Lanzando aplicacións e filtros deepfake novos e cada vez máis fáciles de usar que poden crear contido realista, o que leva á mercantilización de contido deepfake non consensuado, especialmente a pornografía.
• As redes sociais e as plataformas de hospedaxe de sitios web invisten máis para supervisar moito o contido que circula nas súas plataformas, incluíndo a prohibición de persoas ou a eliminación de páxinas de grupos.

Preguntas a ter en conta

• Como aborda o seu goberno o acoso deepfake?
• Cales son as outras formas en que os usuarios en liña poden protexerse de ser vítimas dos creadores de deepfake?