Tàctiques de difusió de la desinformació: com s'envaeix el cervell humà

• autor:
• nom de l'autor

  Previsió de Quantumrun
• Octubre 4, 2023

Resum d'informació

La desinformació s'està estenent a través de tàctiques com el model de contagi i aplicacions xifrades. Grups com Ghostwriter tenen com a objectiu les tropes de l'OTAN i dels EUA, mentre que la IA manipula l'opinió pública. La gent sovint confia en fonts conegudes, cosa que els fa susceptibles a la informació falsa. Això podria donar lloc a més campanyes de desinformació basades en IA, regulacions governamentals més sòlides, un augment de l'ús d'aplicacions xifrades per part dels extremistes, una ciberseguretat més gran als mitjans i cursos educatius sobre la lluita contra la desinformació.

Tàctiques de difusió del context de desinformació

Les tàctiques de desinformació són eines i estratègies que s'apliquen sovint a les xarxes socials, creant una pandèmia de falses creences. Aquesta manipulació de la informació ha donat lloc a un malentès generalitzat sobre temes que van des del frau electoral fins a si els atacs violents són reals (per exemple, el tiroteig de l'escola primària de Sandy Hook) o si les vacunes són segures. A mesura que les notícies falses continuen compartint-se a diferents plataformes, han creat una profunda desconfiança cap a les institucions socials com els mitjans de comunicació. Una teoria de com es propaga la informació enganyosa s'anomena model de contagi, que es basa en com funcionen els virus informàtics. Una xarxa es crea per nodes, que representen persones, i vores, que simbolitzen vincles socials. Un concepte es sembra en una "ment" i s'estén en diverses condicions i depenent de les relacions socials.

No ajuda que la tecnologia i la digitalització creixent de la societat ajudin a fer que les tàctiques de desinformació siguin més efectives que mai. Un exemple són les aplicacions de missatgeria xifrada (EMA), que no només faciliten compartir informació falsa amb contactes personals, sinó que també impedeixen que les empreses d'aplicacions facin un seguiment dels missatges que es comparteixen. Per exemple, els grups d'extrema dreta es van transferir a les EMA després de l'atac al Capitoli dels Estats Units del gener de 2021 perquè les principals plataformes de xarxes socials com Twitter els van prohibir. Les tàctiques de desinformació tenen conseqüències immediates i a llarg termini. A part de les eleccions on les personalitats qüestionables amb antecedents criminals guanyen a través de granges de trols, poden marginar les minories i facilitar la propaganda de guerra (per exemple, la invasió d'Ucraïna de Rússia). 

Impacte disruptiu

El 2020, l'empresa de seguretat FireEye va publicar un informe que destacava els esforços de desinformació d'un grup de pirates informàtics anomenat Ghostwriter. Des del març de 2017, els propagandistes han estat difonent mentides, especialment contra l'aliança militar de l'Organització del Tractat de l'Atlàntic Nord (OTAN) i les tropes nord-americanes a Polònia i als països bàltics. Han publicat material falsificat a les xarxes socials i a llocs web de notícies prorussos. De vegades, Ghostwriter ha utilitzat un enfocament més agressiu: piratejar els sistemes de gestió de continguts (CMS) dels llocs web de notícies per publicar les seves pròpies històries. A continuació, el grup distribueix les seves notícies falses mitjançant correus electrònics falsos, publicacions a les xarxes socials i fins i tot articles d'opinions escrits per ells en altres llocs que accepten contingut dels lectors.

Una altra tàctica de desinformació utilitza algorismes i intel·ligència artificial (IA) per manipular l'opinió pública a les xarxes socials, com ara "impulsar" els seguidors de les xarxes socials mitjançant robots o crear comptes de trolls automatitzats per publicar comentaris d'odi. Els experts anomenen a això propaganda computacional. Mentrestant, la investigació del New York Times va descobrir que els polítics utilitzen el correu electrònic per difondre desinformació més sovint del que la gent s'imagina. Als EUA, ambdues parts són culpables d'utilitzar hipèrbole als seus correus electrònics als electors, cosa que sovint pot animar a compartir informació falsa. 

Hi ha alguns motius clau pels quals la gent cau en campanyes de desinformació. 

• En primer lloc, les persones aprenen socialment i tendeixen a confiar en les seves fonts d'informació, com ara amics o familiars. Aquestes persones, al seu torn, reben les seves notícies d'amics de confiança, cosa que dificulta trencar aquest cicle. 
• En segon lloc, les persones sovint no comproven de manera proactiva la informació que consumeixen, sobretot si estan acostumats a rebre les seves notícies d'una font (sovint mitjans tradicionals o les seves xarxes socials preferides). plataformes com Facebook o Twitter). Quan veuen un titular o una imatge (i fins i tot només una marca) que recolza les seves creences, sovint no qüestionen l'autenticitat d'aquestes afirmacions (per molt ridícules que siguin). 
• Les cambres d'eco són potents eines de desinformació, que converteixen automàticament en enemics les persones amb creences oposades. El cervell humà està configurat per buscar informació que doni suport a les idees existents i descompte la informació que va en contra.

Implicacions més àmplies de les tàctiques de difusió de la desinformació

Les possibles implicacions de les tàctiques que difonen desinformació poden incloure: 

• Més empreses especialitzades en IA i robots per ajudar els polítics i els propagandistes a guanyar seguidors i "credibilitat" mitjançant campanyes intel·ligents de desinformació.
• Es pressiona als governs perquè creïn lleis i agències contra la desinformació per combatre les granges de trolls i els estrategs de la desinformació.
• Augment de les descàrregues d'EMA per a grups extremistes que volen difondre propaganda i arruïnar la reputació.
• Els llocs de mitjans de comunicació inverteixen en solucions de ciberseguretat cares per evitar que els pirates informàtics de la desinformació planten notícies falses als seus sistemes. En aquest procés de moderació es poden utilitzar noves solucions d'IA generativa.
• Els robots generatius amb intel·ligència artificial poden ser utilitzats per actors dolents per produir una onada de contingut mediàtic de propaganda i desinformació a escala.
• Augment de la pressió a les universitats i escoles comunitàries perquè incloguin cursos contra la desinformació. 

Preguntes a tenir en compte

• Com et protegeixes de les tàctiques de desinformació?
• Com poden els governs i les agències evitar la propagació d'aquestes tàctiques?