Propaganda computacional: la era del engaño automatizado

• Escrito por:
• Nombre del autor

  Previsión Quantumrun
• 21 de noviembre.

Resumen de información

En la era de las redes sociales, se ha vuelto cada vez más difícil para algunas personas confiar en lo que ven y escuchan debido a la difusión de la propaganda computacional, algoritmos diseñados para manipular la opinión pública. Esta tecnología se utiliza principalmente para influir en las percepciones de las personas sobre cuestiones políticas. Y a medida que los sistemas de inteligencia artificial (IA) continúan desarrollándose, la propaganda computacional puede aplicarse a fines cada vez más letales.

Contexto de propaganda computacional

La propaganda computacional utiliza sistemas de inteligencia artificial para crear y difundir información engañosa o falsa en línea. En particular, las empresas de Big Tech como Facebook, Google y Twitter han sido criticadas por usar sus algoritmos para manipular la opinión pública. Por ejemplo, Facebook fue acusado en 2016 de usar su algoritmo para suprimir noticias conservadoras de su sección de temas de moda. Mientras tanto, las elecciones presidenciales de EE. UU. de 2016 fueron un caso de alto perfil en el que se dijo que la propaganda computacional influía en los votantes. Por ejemplo, se acusó a Google de sesgar sus resultados de búsqueda para favorecer a Hillary Clinton y se criticó a Twitter por permitir que los bots difundieran información falsa durante las elecciones. 

Los efectos de la propaganda computacional se sienten a nivel mundial, particularmente durante las elecciones nacionales y, a menudo, contra grupos minoritarios. En Myanmar, de 2017 a 2022, ha habido un aumento en el discurso de odio y la violencia contra el grupo minoritario musulmán rohingya. Gran parte de este odio se debe a la propaganda en línea diseñada por grupos nacionalistas en Myanmar que difunden noticias falsas y videos incendiarios que demonizan a los rohingya. 

Otra consecuencia de la propaganda computacional es que puede erosionar la confianza en la democracia y las instituciones. Esta erosión puede tener graves consecuencias, lo que lleva a una mayor polarización y malestar político entre la población interna de un país. Debido a su eficacia comprobada, muchos gobiernos y partidos políticos en todo el mundo están utilizando la propaganda de IA para armar las plataformas de redes sociales contra sus oponentes y críticos.

Impacto disruptivo

La propaganda computacional se está volviendo cada vez más sofisticada debido a su integración de una variedad de innovaciones emergentes de IA. Un ejemplo incluye el procesamiento del lenguaje natural (NLP) que permite a la IA escribir contenido original que suene humano. Además, cualquiera puede descargar la tecnología deepfake y de clonación de voz. Estas tecnologías permiten a las personas crear personajes falsos, hacerse pasar por figuras públicas y organizar campañas elaboradas de desinformación desde sus habitaciones. 

Los expertos creen que el peligro de la propaganda automatizada se magnifica por:

• un público desinformado,
• un sistema legal que está mal equipado para tratar la desinformación masiva, y
• empresas de redes sociales con poca protección contra la explotación.

Una posible solución a la propaganda computacional es que el Congreso de Estados Unidos presione a las empresas de redes sociales para que verifiquen las identidades de sus usuarios. Otra solución es que las plataformas de redes sociales adopten un sistema modificado mediante el cual un tercero verifique criptográficamente la identidad de un individuo antes de permitirle crear una cuenta.

Sin embargo, estas medidas son difíciles de implementar porque las plataformas de redes sociales cambian y evolucionan constantemente. Sería difícil para estas corporaciones verificar a los usuarios en el panorama siempre cambiante del uso en línea. Además, muchas personas desconfían de que los gobiernos regulen las plataformas de comunicaciones, ya que puede ser una forma de censura.

Implicaciones de la propaganda computacional

Las implicaciones más amplias de la propaganda computacional pueden incluir: 

• Los gobiernos utilizan cada vez más las redes sociales y los sitios web de noticias falsas para la propaganda computacional patrocinada por el estado para influir en las elecciones, las políticas y los asuntos exteriores.
• El uso cada vez mayor de bots de redes sociales, cuentas falsas y perfiles generados por IA diseñados para difundir desinformación sobre noticias y videos inventados.
• Más incidentes violentos (p. ej., disturbios públicos, intentos de asesinato, etc.) causados ​​por campañas de propaganda de desinformación en línea, que pueden dañar a los ciudadanos, destruir la propiedad pública e interrumpir los servicios esenciales.
• Mayores inversiones en programas financiados con fondos públicos diseñados para capacitar al público para identificar la desinformación y las noticias falsas.
• Refuerzo de la discriminación contra grupos étnicos y minoritarios, lo que resulta en más genocidio y menor calidad de vida.
• Empresas de tecnología que implementan algoritmos de detección avanzados para identificar y contrarrestar la propaganda computacional, lo que mejora la integridad de los medios digitales y la confianza de los usuarios.
• Instituciones educativas que integran la alfabetización mediática en los planes de estudio, fomentando el pensamiento crítico entre los estudiantes para discernir la información fáctica de la propaganda computacional.
• Colaboraciones internacionales entre países para establecer estándares y protocolos globales para combatir la desinformación computacional, mejorar la seguridad digital y la cooperación global.

Preguntas a considerar

• ¿Cómo ha afectado la propaganda computacional a su país?
• ¿De qué manera te proteges de la propaganda computacional cuando consumes contenido en línea?