Deepfakes: o que são e por que são importantes

• Autor:
• Nome do autor

  Previsão Quantumrun
• 19 de janeiro de 2022

Resumo do insight

Deepfakes, uma tecnologia que permite a criação de vídeos ou áudios falsos hiper-realistas, surgiu em 2017 e desde então tem gerado preocupação e oportunidade. Embora a tecnologia tenha sido utilizada indevidamente para criar conteúdo enganoso, ela também oferece benefícios potenciais, como o aumento da privacidade online, a transformação de estratégias publicitárias e a ajuda na aplicação da lei. No entanto, as implicações a longo prazo dos deepfakes são vastas, variando desde a necessidade de educação para a literacia digital e o crescimento de uma nova indústria focada na detecção de deepfakes, até considerações éticas e aumento do consumo de energia.

Contexto de deepfakes

O termo "deepfake" entrou na consciência pública em 2017, quando um usuário do Reddit compartilhou clipes pornográficos que usavam a tecnologia de troca de rosto de código aberto. Nesses vídeos, eles trocaram os rostos de celebridades como Scarlett Johansson, Taylor Swift, Gal Gadot e outras com artistas pornográficos. Este foi apenas o começo.

A tecnologia Deepfake permite que as pessoas criem vídeo ou áudio de eventos que nunca ocorreram. Por exemplo, celebridades e políticos apareceram em vídeos fazendo e dizendo coisas que nunca fizeram ou disseram. As preocupações com imagens e áudio falsos criados por tecnologias deepfake levaram a uma proliferação de contramedidas. Para eliminar os impactos negativos dos deepfakes, é essencial introduzir novas leis. Em 2020, plataformas de mídia social, incluindo Twitter e Facebook, baniram deepfakes de suas redes. 

São necessários alguns passos para criar um clipe de deepfake de alta qualidade. Primeiro, execute milhares de fotos de rosto de duas pessoas por meio de um codificador. O codificador destaca as semelhanças entre as duas faces e as reduz a recursos compartilhados comprimindo as imagens. Em seguida, os rostos são recuperados de fotos compactadas usando um decodificador. Como os rostos são diferentes, um decodificador é treinado para recuperar o rosto da primeira pessoa e outro para recuperar o rosto da segunda pessoa. Depois disso, o criador precisa alimentar imagens codificadas no decodificador "errado" para aplicar a troca de rosto. 

Impacto disruptivo

Deepfakes, embora representem ameaças significativas, também apresentam oportunidades únicas. Para os indivíduos, a capacidade de criar personas digitais realistas pode transformar as interações online. Por exemplo, uma pessoa poderia usar um deepfake para manter a privacidade durante videochamadas, apresentando um avatar digital em vez de seu rosto real. Este recurso pode ser particularmente útil em situações em que a segurança pessoal ou o anonimato são fundamentais.

Para as empresas, os deepfakes podem redefinir as estratégias de publicidade e envolvimento do cliente. As empresas poderiam criar porta-vozes virtuais, adaptados para repercutir em diferentes públicos-alvo. Essa estratégia pode levar a campanhas de marketing mais personalizadas e eficazes. No entanto, isto também levanta considerações éticas, uma vez que os consumidores podem ser enganados por representações hiper-realistas, mas artificiais.

Os governos poderiam usar tecnologia deepfake para fins de segurança pública. Por exemplo, as agências de aplicação da lei poderiam usar deepfakes em operações policiais, criando cenários realistas sem colocar em risco os agentes humanos. No entanto, o potencial de utilização indevida é elevado e é crucial que os governos estabeleçam regulamentos rigorosos para evitar o abuso desta tecnologia. No longo prazo, o impacto dos deepfakes dependerá em grande parte da responsabilidade com que utilizamos e regulamos esta poderosa ferramenta.

Implicações de deepfakes

Implicações mais amplas da tecnologia deepfake podem incluir: 

• Seu uso na aplicação da lei para reconstruir cenas de crime com a inter-relação de artefatos temporais e espaciais. 
• Seu uso por empresas de varejo de moda para criar salas de teste virtuais para os clientes experimentarem produtos favoritos sem realmente experimentá-los.
• Fornecer aos indivíduos novas ferramentas para integração e autoexpressão no mundo online. Por exemplo, os indivíduos podem criar avatares de si mesmos para auto-expressão online.
• O uso avançado e generalizado de deepfakes na mídia por vários atores mal-intencionados. Nesse cenário de pior caso, os deepfakes podem prejudicar a capacidade da sociedade de acreditar no que veem e ouvem, tornando faixas mais amplas da sociedade mais suscetíveis à propaganda e várias formas de manipulação.
• Um aumento na procura de educação em literacia digital, resultando numa população mais informada e perspicaz, capaz de distinguir melhor entre conteúdos reais e manipulados.
• Uma nova indústria focada na detecção e prevenção de deepfakes, criando oportunidades de emprego e crescimento económico.
• Avanços na inteligência artificial e no aprendizado de máquina, ampliando os limites do que é tecnologicamente possível.
• Um aumento no consumo de energia, pois a criação e detecção de deepfakes requerem recursos computacionais significativos.

Questões a considerar

• Quais são os possíveis impactos dos deepfakes na sociedade?
• Você acha que as leis introduzidas pelos governos ajudarão a eliminar as aplicações negativas de deepfakes? 
• Em quais inovações a tecnologia deepfake pode ser aplicada no futuro?