Tácticas que difunden desinformación: como se invade o cerebro humano

• autor:
• nome do autor

  Previsión de Quantumrun
• Outubro 4, 2023

Resumo de insight

A información errónea está a estenderse a través de tácticas como o modelo de contaxio e aplicacións cifradas. Grupos como Ghostwriter apuntan ás tropas da OTAN e dos Estados Unidos, mentres que a IA manipula a opinión pública. A xente a miúdo confía en fontes coñecidas, polo que son susceptibles de recibir información falsa. Isto podería levar a máis campañas de desinformación baseadas na IA, regulacións gobernamentais máis fortes, aumento do uso de aplicacións cifradas por parte dos extremistas, aumento da ciberseguridade nos medios e cursos educativos sobre a loita contra a desinformación.

Tácticas de difusión do contexto de desinformación

As tácticas de desinformación son ferramentas e estratexias que adoitan aplicarse en redes sociais, creando unha pandemia de falsas crenzas. Esta manipulación da información deu lugar a un malentendido xeneralizado sobre temas que van desde a fraude aos votantes ata se os ataques violentos son reais (por exemplo, o tiroteo na escola primaria Sandy Hook) ou se as vacinas son seguras. A medida que se seguen compartindo noticias falsas en diferentes plataformas, creou unha profunda desconfianza contra as institucións sociais como os medios. Unha teoría de como se propaga a información enganosa chámase Modelo de contaxio, que se basea no funcionamento dos virus informáticos. Unha rede créase por nós, que representan persoas, e bordos, que simbolizan vínculos sociais. Un concepto está sementado nunha "mente" e esténdese en varias condicións e dependendo das relacións sociais.

Non axuda que a tecnoloxía e a crecente dixitalización da sociedade contribúan a que as tácticas de desinformación sexan máis efectivas que nunca. Un exemplo son as aplicacións de mensaxería cifrada (EMA), que non só facilitan o intercambio de información falsa con contactos persoais, senón que tamén imposibilitan que as empresas de aplicacións rastrexan as mensaxes que se comparten. Por exemplo, os grupos de extrema dereita foron transferidos ás EMA despois do ataque ao Capitolio dos Estados Unidos de xaneiro de 2021 porque as principais plataformas de redes sociais como Twitter os prohibiron. As tácticas de desinformación teñen consecuencias inmediatas e a longo prazo. Ademais das eleccións nas que gañan personalidades cuestionables con antecedentes criminales a través das granxas de trolls, poden marxinar ás minorías e facilitar a propaganda bélica (por exemplo, a invasión de Ucraína en Rusia). 

Impacto perturbador

En 2020, a empresa de seguridade FireEye publicou un informe que destacaba os esforzos de desinformación dun grupo de hackers chamado Ghostwriter. Desde marzo de 2017, os propagandistas espallan mentiras, en particular contra a alianza militar da Organización do Tratado do Atlántico Norte (OTAN) e as tropas estadounidenses en Polonia e nos Bálticos. Publicaron material falsificado en redes sociais e sitios web de noticias prorrusos. Ghostwriter ás veces utilizou un enfoque máis agresivo: piratear os sistemas de xestión de contidos (CMS) dos sitios web de noticias para publicar as súas propias historias. A continuación, o grupo distribúe as súas noticias falsas mediante correos electrónicos falsos, publicacións en redes sociais e mesmo artigos de opinión escritos por eles noutros sitios que aceptan contido dos lectores.

Outra táctica de desinformación utiliza algoritmos e intelixencia artificial (IA) para manipular a opinión pública nas redes sociais, como "impulsar" os seguidores das redes sociais a través de bots ou crear contas de trolls automatizadas para publicar comentarios de odio. Os expertos chámanlle propaganda computacional. Mentres tanto, unha investigación de The New York Times descubriu que os políticos usan o correo electrónico para difundir desinformación con máis frecuencia do que a xente pensa. Nos EE.UU., ambas as partes son culpables de usar hipérbole nos seus correos electrónicos aos electores, o que moitas veces pode fomentar o intercambio de información falsa. 

Hai algunhas razóns fundamentais polas que a xente cae nas campañas de desinformación. 

• En primeiro lugar, as persoas son estudantes sociais e tenden a confiar nas súas fontes de información, como amigos ou familiares. Estas persoas, á súa vez, reciben as súas noticias de amigos de confianza, o que dificulta romper este ciclo. 
• En segundo lugar, a xente adoita non verificar de forma proactiva a información que consumen, especialmente se están acostumados a recibir as súas noticias dunha fonte (a miúdo os medios tradicionais ou as súas redes sociais favoritas). plataformas como Facebook ou Twitter). Cando ven un titular ou unha imaxe (e mesmo só unha marca) que apoia as súas crenzas, moitas veces non cuestionan a autenticidade destas afirmacións (por moi ridículas que sexan). 
• As cámaras de eco son poderosas ferramentas de desinformación que converten automaticamente ás persoas con crenzas opostas no inimigo. O cerebro humano está configurado para buscar información que apoie as ideas existentes e descontar a información que vai en contra delas.

Implicacións máis amplas das tácticas que difunden desinformación

As posibles implicacións das tácticas que difunden desinformación poden incluír: 

• Máis empresas especializadas en intelixencia artificial e bots para axudar a políticos e propagandistas a conseguir seguidores e "credibilidade" a través de intelixentes campañas de desinformación.
• Os gobernos están sendo presionados para crear leis e axencias contra a desinformación para combater as granxas de trolls e os estrategas de desinformación.
• Aumento das descargas de EMA para grupos extremistas que queren difundir propaganda e estragar a reputación.
• Sitios de medios que invisten en solucións de ciberseguridade caras para evitar que os hackers de desinformación coloquen noticias falsas nos seus sistemas. Neste proceso de moderación pódense empregar novas solucións xerativas de IA.
• Os malos actores poden empregar bots potenciados por intelixencia artificial xerativa para producir unha onda de contido multimedia de propaganda e desinformación a escala.
• Aumento da presión para que as universidades e escolas comunitarias inclúan cursos contra a desinformación. 

Preguntas a ter en conta

• Como te protexes das tácticas de desinformación?
• Como poden os gobernos e as axencias evitar a propagación destas tácticas?