Propaganda computacional: a era do engano automatizado

• Autor:
• Nome do autor

  Previsão Quantumrun
• 21 de novembro de 2022

Resumo do insight

Na era das mídias sociais, tornou-se cada vez mais difícil para algumas pessoas confiar no que veem e ouvem devido à disseminação da propaganda computacional – algoritmos projetados para manipular a opinião pública. Esta tecnologia é utilizada principalmente para influenciar as percepções das pessoas sobre questões políticas. E à medida que os sistemas de inteligência artificial (IA) continuam a se desenvolver, a propaganda computacional pode ser aplicada para fins cada vez mais letais.

Contexto de propaganda computacional

A propaganda computacional usa sistemas de IA para criar e divulgar informações enganosas ou falsas online. Em particular, grandes empresas de tecnologia como Facebook, Google e Twitter foram criticadas por usar seus algoritmos para manipular a opinião pública. Por exemplo, o Facebook foi acusado em 2016 de usar seu algoritmo para suprimir notícias conservadoras de sua seção de tópicos de tendências. Enquanto isso, a eleição presidencial dos EUA em 2016 foi um caso de grande repercussão em que se dizia que a propaganda computacional influenciava os eleitores. Por exemplo, o Google foi acusado de distorcer seus resultados de pesquisa para favorecer Hillary Clinton e o Twitter foi criticado por permitir que bots espalhassem informações falsas durante a eleição. 

Os efeitos da propaganda computacional são sentidos globalmente, particularmente durante as eleições nacionais e muitas vezes contra grupos minoritários. Em Mianmar, de 2017 a 2022, houve um aumento no discurso de ódio e violência contra o grupo minoritário muçulmano rohingya. Muito desse ódio se deve à propaganda online projetada por grupos nacionalistas em Mianmar, espalhando notícias falsas e vídeos inflamatórios que demonizam os rohingyas. 

Outra consequência da propaganda computacional é que ela pode corroer a confiança na democracia e nas instituições. Essa erosão pode ter sérias consequências, levando ao aumento da polarização e agitação política entre a população doméstica de um país. Devido à sua eficácia comprovada, muitos governos e partidos políticos em todo o mundo estão usando propaganda de IA para armar plataformas de mídia social contra seus oponentes e críticos.

Impacto disruptivo

A propaganda computacional está se tornando cada vez mais sofisticada devido à integração de uma variedade de inovações emergentes de IA. Um exemplo inclui o processamento de linguagem natural (NLP), que permite que a IA escreva conteúdo original que pareça humano. Além disso, a tecnologia deepfake e clonagem de voz pode ser baixada por qualquer pessoa. Essas tecnologias permitem que as pessoas criem personas falsas, se passem por figuras públicas e encenem elaboradas campanhas de desinformação de seus quartos. 

Especialistas acreditam que o perigo da propaganda automatizada é ampliado por:

• um público desinformado,
• um sistema legal mal equipado para tratar a desinformação em massa, e
• empresas de mídia social com pouca proteção contra a exploração.

Uma solução potencial para a propaganda computacional é o Congresso dos EUA pressionar as empresas de redes sociais a verificarem as identidades dos seus utilizadores. Outra solução é que as plataformas de mídia social adotem um sistema modificado por meio do qual terceiros verificam criptograficamente a identidade de um indivíduo antes de permitir que ele crie uma conta.

No entanto, estas medidas são difíceis de implementar porque as plataformas de redes sociais mudam e evoluem constantemente. Seria difícil para essas empresas verificar os usuários com o cenário em constante mudança do uso online. Além disso, muitas pessoas desconfiam da regulamentação das plataformas de comunicação pelos governos, pois isso pode ser uma forma de censura.

Implicações da propaganda computacional

Implicações mais amplas da propaganda computacional podem incluir: 

• Os governos usam cada vez mais mídias sociais e sites de notícias falsas para propaganda computacional patrocinada pelo Estado para influenciar eleições, políticas e relações exteriores.
• O uso crescente de bots de mídia social, contas falsas e perfis gerados por IA projetados para espalhar desinformação sobre notícias e vídeos fabricados.
• Incidentes mais violentos (por exemplo, distúrbios públicos, tentativas de assassinato, etc.) causados ​​por campanhas de propaganda de desinformação online, que podem prejudicar os cidadãos, destruir bens públicos e interromper serviços essenciais.
• Aumento dos investimentos em programas financiados pelo público destinados a treinar o público para identificar desinformação e notícias falsas.
• Reforço da discriminação contra grupos étnicos e minoritários, resultando em mais genocídio e menor qualidade de vida.
• Empresas de tecnologia que implementam algoritmos de detecção avançados para identificar e combater a propaganda computacional, levando a uma maior integridade da mídia digital e à confiança do usuário.
• Instituições educativas que integram a literacia mediática nos currículos, promovendo o pensamento crítico entre os alunos para discernir informação factual da propaganda computacional.
• Colaborações internacionais entre países para estabelecer padrões e protocolos globais para combater a desinformação computacional, melhorando a segurança e a cooperação digital global.

Questões a considerar

• Como a propaganda computacional afetou seu país?
• De que maneiras você se protege da propaganda computacional ao consumir conteúdo online?