Falsidade da mídia sintética: ver não é mais acreditar

• Autor:
• Nome do autor

  Previsão Quantumrun
• 22 de fevereiro de 2024

Resumo do insight

A mídia sintética, que combina inteligência artificial (IA) com elementos de vídeo, áudio e visuais, é tão realista que é difícil distingui-la da mídia real. O seu desenvolvimento remonta a décadas, com a aprendizagem profunda (DL) e as Redes Adversariais Generativas (GANs) desempenhando um papel fundamental no seu avanço. À medida que esta tecnologia evolui, apresenta oportunidades criativas e desafios significativos em matéria de privacidade, ética e desinformação.

Contexto de falsidade da mídia sintética

A mídia sintética representa uma combinação inovadora de conteúdo gerado por IA, abrangendo vídeo ao vivo, elementos visuais e áudio dentro de uma estrutura tecnológica avançada. Esta forma de mídia é caracterizada por seu realismo excepcional e qualidades imersivas, tornando-a quase indistinguível da mídia do mundo real. A criação de mídia sintética remonta à década de 1950, passando por uma evolução significativa no final da década de 1980 e início da década de 1990, à medida que o poder computacional aumentava. 

O aprendizado profundo é a tecnologia central que impulsiona a mídia sintética, um ramo sofisticado do aprendizado de máquina (ML). Particularmente influentes neste domínio são os GANs, que revolucionaram o campo ao aprender com imagens existentes para produzir imagens inteiramente novas, mas assustadoramente autênticas. As GANs operam usando um sistema de rede neural dupla: uma rede gera imagens falsas com base em imagens reais, enquanto a outra avalia sua autenticidade, ultrapassando os limites do que é possível em visão computacional e processamento de imagens.

À medida que a IA continua o seu rápido avanço, as aplicações e implicações dos meios de comunicação sintéticos tornam-se cada vez mais significativas. Embora estes avanços tecnológicos abram portas à inovação em vários sectores, incluindo videojogos, veículos autónomos e reconhecimento facial, introduzem simultaneamente preocupações prementes em relação à privacidade e à ética. O futuro dos meios de comunicação sintéticos representa, portanto, uma faca de dois gumes, oferecendo um vasto potencial de criatividade e inovação, ao mesmo tempo que nos desafia a abordar as suas implicações éticas e relacionadas com a privacidade.

Impacto disruptivo

Um estudo de 2022 conduzido pela organização sem fins lucrativos Rand Corporation discute os quatro principais riscos da mídia sintética: manipulação de eleições por meio de vídeos fabricados de candidatos, exacerbação das divisões sociais pela amplificação da propaganda e do conteúdo partidário, erosão da confiança nas instituições por meio de representações falsas de figuras de autoridade, e minar o jornalismo ao lançar dúvidas sobre a autenticidade de notícias legítimas. Estes deepfakes podem ser particularmente prejudiciais nos países em desenvolvimento, onde prevalecem níveis de educação mais baixos, democracias frágeis e conflitos interétnicos. A desinformação já é um problema significativo nestas regiões, e os deepfakes podem intensificar disputas e violência, como visto em incidentes anteriores em países como Mianmar, Índia e Etiópia. Além disso, os recursos limitados atribuídos à moderação de conteúdos fora dos EUA, especialmente em plataformas como o WhatsApp, aumentam o risco de deepfakes passarem despercebidos nestas áreas.

Os deepfakes também representam ameaças únicas para as mulheres, dada a disparidade de género no conteúdo pornográfico. A mídia gerada por IA tem sido usada para criar pornografia deepfake não consensual, levando ao abuso e à exploração. Estas tecnologias também podem representar riscos de segurança ao visarem agentes de inteligência, candidatos políticos, jornalistas e líderes para constrangimento ou manipulação. Exemplos históricos, como a campanha de desinformação apoiada pela Rússia contra a parlamentar ucraniana Svitlana Zalishchuk, demonstram o potencial para tais ataques.

A compreensão da comunidade científica sobre as implicações sociais dos deepfakes ainda está em evolução, com estudos que oferecem resultados mistos sobre a capacidade dos utilizadores para detectar estes vídeos e o seu impacto. Algumas pesquisas sugerem que os humanos podem ser melhores na detecção de deepfakes do que as máquinas, mas esses vídeos são frequentemente vistos como vívidos, persuasivos e credíveis, aumentando a probabilidade de sua propagação nas redes sociais. No entanto, a influência dos vídeos deepfake nas crenças e no comportamento pode ser menor do que o previsto, indicando que as preocupações sobre o seu poder de persuasão podem ser um tanto prematuras. 

Implicações da falsidade da mídia sintética

Implicações mais amplas da falsidade da mídia sintética podem incluir: 

• Técnicas aprimoradas de autenticação de conteúdo digital, levando a métodos mais sofisticados de verificação de autenticidade de mídia.
• Aumento da procura de educação em literacia digital nas escolas, dotando as gerações futuras com competências para analisar criticamente os meios de comunicação.
• Mudanças nos padrões jornalísticos, exigindo processos de verificação mais rigorosos dos conteúdos multimédia para manter a credibilidade.
• Expansão dos quadros jurídicos que abordam a manipulação de conteúdos digitais, oferecendo melhor proteção contra a desinformação.
• Riscos aumentados de privacidade pessoal devido ao potencial uso indevido de reconhecimento facial e dados pessoais na criação de deepfakes.
• Desenvolvimento de novos setores de mercado especializados em detecção e prevenção de deepfakes, criando oportunidades de emprego e avanços tecnológicos.
• Campanhas políticas adotando práticas mais rigorosas de monitoramento da mídia para mitigar o impacto de conteúdos falsos nas eleições.
• Mudanças nas estratégias de publicidade e marketing, com maior ênfase na autenticidade e conteúdo verificável para manter a confiança do consumidor.
• Um aumento nos impactos psicológicos devido à disseminação de conteúdos realistas mas falsos, potencialmente afectando a saúde mental e a percepção pública.
• Alterações na dinâmica das relações internacionais à medida que os deepfakes se tornam uma ferramenta nas estratégias geopolíticas, afetando a diplomacia e a confiança global.

Questões a considerar

• Como a mídia sintética afeta sua percepção dos acontecimentos atuais?
• Como poderia o desenvolvimento da tecnologia deepfake influenciar o equilíbrio entre a liberdade de expressão e a necessidade de regulamentação para prevenir a desinformação e o abuso?