Redes generativas adversárias (GANs): a era da mídia sintética

• Autor:
• Nome do autor

  Previsão Quantumrun
• 5 de dezembro de 2023

Resumo do insight

Redes Adversariais Generativas (GANs), conhecidas por criarem deepfakes, geram dados sintéticos que imitam rostos, vozes e maneirismos da vida real. Seu uso vai desde o aprimoramento do Adobe Photoshop até a geração de filtros realistas no Snapchat. No entanto, os GANs apresentam preocupações éticas, pois são frequentemente usados ​​para criar vídeos deepfake enganosos e propagar desinformação. Na área da saúde, há ansiedade quanto à privacidade dos dados dos pacientes no treinamento GAN. Apesar destes problemas, os GANs têm aplicações benéficas, como o auxílio a investigações criminais. Seu uso generalizado em vários setores, incluindo cinema e marketing, levou a apelos por medidas de privacidade de dados mais rigorosas e regulamentação governamental da tecnologia GAN.

Contexto de redes adversárias generativas (GANs)

GAN é um tipo de rede neural profunda que pode gerar novos dados semelhantes aos dados nos quais foi treinada. Os dois blocos principais que competem entre si para produzir criações visionárias são chamados de gerador e discriminador. O gerador é responsável por criar novos dados, enquanto o discriminador tenta diferenciar entre os dados gerados e os dados de treinamento. O gerador está constantemente tentando enganar o discriminador, criando informações que pareçam tão reais quanto possível. Para fazer isso, o gerador precisa aprender a distribuição subjacente dos dados, permitindo que os GANs criem novas informações sem realmente memorizá-las.

Quando os GANs foram desenvolvidos pela primeira vez em 2014 pelo cientista pesquisador do Google Ian Goodfellow e seus colegas de equipe, o algoritmo se mostrou uma grande promessa para o aprendizado de máquina. Desde então, os GANs têm visto muitas aplicações no mundo real em diferentes setores. Por exemplo, a Adobe utiliza GANs para o Photoshop de próxima geração. O Google utiliza o poder dos GANs para geração de texto e imagens. A IBM usa efetivamente GANs para aumento de dados. O Snapchat os utiliza para filtros de imagem eficientes e a Disney para superresoluções. 

Impacto disruptivo

Embora o GAN tenha sido inicialmente criado para melhorar o aprendizado de máquina, suas aplicações cruzaram territórios questionáveis. Por exemplo, vídeos deepfake são constantemente criados para imitar pessoas reais e fazer parecer que estão fazendo ou dizendo algo que não fizeram. Por exemplo, houve um vídeo do ex-presidente dos EUA, Barack Obama, chamando o ex-presidente dos EUA, Donald Trump, de um termo depreciativo e o CEO do Facebook, Mark Zuckerburg, gabando-se de ser capaz de controlar bilhões de dados roubados. Nada disso aconteceu na vida real. Além disso, a maioria dos vídeos deepfake têm como alvo mulheres celebridades e as colocam em conteúdo pornográfico. Os GANs também são capazes de criar fotos fictícias do zero. Por exemplo, várias contas falsas de jornalistas no LinkedIn e no Twitter foram geradas por IA. Esses perfis sintéticos podem ser usados ​​para criar artigos que pareçam realistas e peças de liderança inovadora que os propagandistas podem usar. 

Entretanto, no sector da saúde, existem preocupações crescentes sobre os dados que podem ser divulgados através da utilização de uma base de dados real de pacientes como dados de treino para os algoritmos. Alguns pesquisadores argumentam que deve haver uma camada adicional de segurança ou máscara para proteger as informações pessoais. No entanto, embora o GAN seja mais conhecido pela sua capacidade de enganar as pessoas, tem benefícios positivos. Por exemplo, em Maio de 2022, a polícia dos Países Baixos recriou o vídeo de um rapaz de 13 anos que foi assassinado em 2003. Ao utilizar imagens realistas da vítima, a polícia espera encorajar as pessoas a lembrarem-se da vítima e a apresentarem novas informações sobre o caso arquivado. A polícia afirma que já recebeu diversas denúncias, mas terá que realizar verificações de antecedentes para verificá-las.

Aplicações de redes adversárias generativas (GANs)

Algumas aplicações de redes adversárias generativas (GANs) podem incluir: 

• A indústria cinematográfica cria conteúdo deepfake para colocar atores sintéticos e refazer cenas em filmes pós-produzidos. Esta estratégia pode traduzir-se em poupanças de custos a longo prazo, uma vez que não será necessário pagar compensações adicionais aos actores e à equipa.
• O uso crescente de textos e vídeos deepfake para promover ideologias e propaganda em diferentes espectros políticos.
• Empresas que usam vídeos sintéticos para criar campanhas elaboradas de branding e marketing sem contratar pessoas reais além de programadores.
• Grupos que fazem lobby por maior proteção da privacidade dos dados de saúde e outras informações pessoais. Esta resistência pode pressionar as empresas a desenvolverem dados de formação que não sejam baseados em bases de dados reais. No entanto, os resultados podem não ser tão precisos.
• Os governos regulam e monitorizam as empresas que produzem tecnologia GAN para garantir que a tecnologia não está a ser utilizada para desinformação e fraude.

Perguntas para comentar

• Você já experimentou o uso da tecnologia GAN? Como foi a experiência?
• Como podem as empresas e os governos garantir que a GAN está a ser utilizada de forma ética?