Quantumrun

CRÉDITO DA IMAXE:

iStock

Propaganda computacional: a era do engano automatizado

A propaganda computacional controla as poboacións e faias máis susceptibles á desinformación.

autor:
nome do autor
Previsión de Quantumrun
Novembro 21, 2022

Resumo de insight

Na era das redes sociais, é cada vez máis difícil para algunhas persoas confiar no que ven e escoitan debido á difusión da propaganda computacional, algoritmos deseñados para manipular a opinión pública. Esta tecnoloxía utilízase principalmente para influir na percepción da xente sobre as cuestións políticas. E a medida que os sistemas de intelixencia artificial (IA) seguen a desenvolverse, a propaganda computacional pode aplicarse a fins cada vez máis letais.

Contexto de propaganda computacional

A propaganda computacional utiliza sistemas de intelixencia artificial para crear e difundir información enganosa ou falsa en liña. En particular, as empresas Big Tech como Facebook, Google e Twitter foron criticadas por usar os seus algoritmos para manipular a opinión pública. Por exemplo, Facebook foi acusado en 2016 de usar o seu algoritmo para suprimir noticias conservadoras da súa sección de temas de tendencia. Mentres tanto, as eleccións presidenciais dos Estados Unidos de 2016 foron un caso destacado no que se dixo que a propaganda computacional influía nos votantes. Por exemplo, Google foi acusado de sesgar os seus resultados de busca para favorecer a Hillary Clinton e Twitter foi criticado por permitir que os bots espallaran información falsa durante as eleccións.

Os efectos da propaganda computacional séntense a nivel mundial, especialmente durante as eleccións nacionais e moitas veces contra os grupos minoritarios. En Myanmar, entre 2017 e 2022, houbo un aumento dos discursos de odio e da violencia contra o grupo minoritario musulmán rohingya. Gran parte deste odio débese á propaganda en liña deseñada por grupos nacionalistas en Myanmar que difunde noticias falsas e vídeos inflamatorios que demonizan aos rohingya.

Outra consecuencia da propaganda computacional é que pode erosionar a confianza na democracia e nas institucións. Esta erosión pode ter graves consecuencias, levando a unha maior polarización e disturbios políticos entre a poboación doméstica dun país. Debido á súa eficacia comprobada, moitos gobernos e partidos políticos a nivel mundial están a utilizar a propaganda da intelixencia artificial para armar as plataformas de redes sociais contra os seus opositores e críticos.

Impacto perturbador

A propaganda computacional é cada vez máis sofisticada debido á súa integración dunha variedade de innovacións emerxentes de IA. Un exemplo inclúe o procesamento da linguaxe natural (NLP) que permite que a IA escriba contido orixinal que soe humano. Ademais, calquera persoa pode descargar a tecnoloxía deepfake e de clonación de voz. Estas tecnoloxías permiten ás persoas crear personaxes falsos, facerse pasar por figuras públicas e organizar elaboradas campañas de desinformación desde os seus dormitorios.

Os expertos cren que o perigo da propaganda automatizada aumenta por:

un público desinformado,
un sistema xurídico que está mal equipado para tratar a desinformación masiva, e
empresas de redes sociais con pouca protección contra a explotación.

Unha posible solución á propaganda computacional é que o Congreso dos Estados Unidos presione ás empresas de redes sociais para que verifiquen a identidade dos seus usuarios. Outra solución é que as plataformas de redes sociais adopten un sistema modificado polo cal un terceiro verifica criptograficamente a identidade dun individuo antes de permitirlle crear unha conta.

Non obstante, estas medidas son un reto de implementar porque as plataformas de redes sociais cambian e evolucionan constantemente. Sería difícil para estas corporacións verificar aos usuarios co panorama en constante cambio do uso en liña. Ademais, moitas persoas desconfían dos gobernos que regulen as plataformas de comunicación xa que pode ser unha forma de censura.

Implicacións da propaganda computacional

As implicacións máis amplas da propaganda computacional poden incluír:

Os gobernos utilizan cada vez máis as redes sociais e os sitios web de noticias falsas para a propaganda computacional patrocinada polo estado para influír nas eleccións, nas políticas e nos asuntos exteriores.
O uso cada vez maior de bots de redes sociais, contas falsas e perfís xerados por intelixencia artificial deseñados para difundir desinformación sobre noticias e vídeos fabricados.
Incidentes máis violentos (por exemplo, disturbios públicos, intentos de asasinato, etc.) causados por campañas de propaganda de desinformación en liña, que poden prexudicar aos cidadáns, destruír bens públicos e perturbar servizos esenciais.
Incremento dos investimentos en programas financiados con fondos públicos deseñados para capacitar ao público para identificar a desinformación e as noticias falsas.
Reforzamento da discriminación contra os grupos étnicos e minoritarios, o que se traduce en máis xenocidio e menor calidade de vida.
Empresas tecnolóxicas que implementan algoritmos de detección avanzados para identificar e contrarrestar a propaganda computacional, o que leva a mellorar a integridade dos medios dixitais e a confianza dos usuarios.
As institucións educativas integran a alfabetización mediática nos currículos, fomentando o pensamento crítico entre os estudantes para discernir información factual da propaganda computacional.
Colaboracións internacionais entre países para establecer estándares e protocolos globais para loitar contra a desinformación computacional, mellorando a seguridade e a cooperación dixital globais.