Tactiques diffusant de la désinformation : comment le cerveau humain est envahi

• Auteur :
• Nom de l'auteur

  Prévision quantique
• 4 octobre 2023

Résumé des informations

La désinformation se propage grâce à des tactiques telles que le modèle de contagion et les applications cryptées. Des groupes comme Ghostwriter ciblent les troupes de l’OTAN et des États-Unis, tandis que l’IA manipule l’opinion publique. Les gens font souvent confiance à des sources familières, ce qui les rend vulnérables aux fausses informations. Cela pourrait conduire à davantage de campagnes de désinformation basées sur l’IA, à des réglementations gouvernementales plus strictes, à une utilisation accrue d’applications cryptées par les extrémistes, à une cybersécurité accrue dans les médias et à des cours de formation sur la lutte contre la désinformation.

Tactiques propageant le contexte de la désinformation

Les tactiques de désinformation sont des outils et des stratégies souvent appliqués sur les sites de réseaux sociaux, créant une pandémie de fausses croyances. Cette manipulation de l'information a donné lieu à un malentendu généralisé sur des sujets allant de la fraude électorale à la réalité des attaques violentes (par exemple, la fusillade dans l'école primaire de Sandy Hook) ou à la sécurité des vaccins. Alors que les fausses nouvelles continuent d’être partagées sur différentes plateformes, elles ont créé une profonde méfiance à l’égard des institutions sociales telles que les médias. Une théorie sur la façon dont les informations trompeuses se propagent est appelée modèle de contagion, qui est basée sur le fonctionnement des virus informatiques. Un réseau est créé par des nœuds qui représentent des personnes et des bords qui symbolisent les liens sociaux. Un concept est semé dans un « esprit » et se propage dans diverses conditions et en fonction des relations sociales.

Le fait que la technologie et la numérisation croissante de la société contribuent à rendre les tactiques de désinformation plus efficaces que jamais n’aide pas. Un exemple est celui des applications de messagerie cryptées (EMA), qui non seulement facilitent le partage de fausses informations avec des contacts personnels, mais empêchent également les sociétés d'applications de suivre les messages partagés. Par exemple, des groupes d’extrême droite ont été transférés aux EMA après l’attaque du Capitole américain en janvier 2021, parce que les plateformes de médias sociaux grand public comme Twitter les ont interdits. Les tactiques de désinformation ont des conséquences immédiates et à long terme. Hormis les élections où des personnalités douteuses ayant un casier judiciaire gagnent grâce à des fermes de trolls, elles peuvent marginaliser les minorités et faciliter la propagande de guerre (par exemple, l'invasion de l'Ukraine par la Russie). 

Impact perturbateur

En 2020, la société de sécurité FireEye a publié un rapport soulignant les efforts de désinformation d'un groupe de pirates informatiques appelé Ghostwriter. Depuis mars 2017, les propagandistes répandent des mensonges, notamment contre l’alliance militaire de l’Organisation du Traité de l’Atlantique Nord (OTAN) et les troupes américaines en Pologne et dans les pays baltes. Ils ont publié des documents falsifiés sur les réseaux sociaux et sur des sites d’information pro-russes. Ghostwriter a parfois eu recours à une approche plus agressive : pirater les systèmes de gestion de contenu (CMS) des sites Web d'information pour publier ses propres articles. Le groupe diffuse ensuite ses fausses nouvelles à l’aide de faux e-mails, de publications sur les réseaux sociaux et même d’articles d’opinion rédigés par ses soins sur d’autres sites qui acceptent le contenu des lecteurs.

Une autre tactique de désinformation utilise des algorithmes et l’intelligence artificielle (IA) pour manipuler l’opinion publique sur les réseaux sociaux, par exemple en « augmentant » les abonnés sur les réseaux sociaux via des robots ou en créant des comptes de trolls automatisés pour publier des commentaires haineux. Les experts appellent cela de la propagande informatique. Parallèlement, une étude du New York Times a révélé que les politiciens utilisent le courrier électronique pour diffuser de la désinformation plus souvent qu’on ne le pense. Aux États-Unis, les deux partis se rendent coupables d’hyperboles dans leurs courriels adressés à leurs électeurs, ce qui peut souvent encourager le partage de fausses informations. 

Il existe quelques raisons principales pour lesquelles les gens se laissent prendre aux campagnes de désinformation. 

• Premièrement, les gens apprennent socialement et ont tendance à faire confiance à leurs sources d’informations comme les amis ou les membres de la famille. Ces personnes, à leur tour, reçoivent leurs nouvelles d’amis de confiance, ce qui rend difficile la rupture de ce cycle. 
• Deuxièmement, les gens ne parviennent souvent pas à vérifier de manière proactive les informations qu'ils consomment, surtout s'ils sont habitués à obtenir leurs informations d'une seule source (souvent les médias traditionnels ou leurs réseaux sociaux préférés). plateformes comme Facebook ou Twitter). Lorsqu'ils voient un titre ou une image (et même simplement une image de marque) qui soutient leurs convictions, ils ne remettent souvent pas en question l'authenticité de ces affirmations (aussi ridicules soient-elles). 
• Les chambres d’écho sont de puissants outils de désinformation, faisant automatiquement des personnes ayant des convictions opposées des ennemis. Le cerveau humain est programmé pour rechercher des informations qui soutiennent les idées existantes et ignorer les informations qui vont à leur encontre.

Implications plus larges des tactiques de diffusion de la désinformation

Les implications possibles des tactiques de diffusion de désinformation peuvent inclure : 

• Davantage d'entreprises spécialisées dans l'IA et les robots pour aider les politiciens et les propagandistes à gagner des adeptes et de la « crédibilité » grâce à des campagnes de désinformation intelligentes.
• Les gouvernements subissent des pressions pour créer des lois et des agences anti-désinformation pour lutter contre les fermes de trolls et les stratèges de la désinformation.
• Augmentation des téléchargements d'EMA pour les groupes extrémistes qui veulent diffuser de la propagande et ruiner leur réputation.
• Les sites de médias investissent dans des solutions de cybersécurité coûteuses pour empêcher les pirates informatiques de diffuser de fausses nouvelles dans leurs systèmes. De nouvelles solutions d’IA générative peuvent être utilisées dans ce processus de modération.
• Les robots génératifs basés sur l’IA peuvent être utilisés par de mauvais acteurs pour produire une vague de contenu médiatique de propagande et de désinformation à grande échelle.
• Pression accrue pour que les universités et les écoles communautaires incluent des cours anti-désinformation. 

Questions à considérer

• Comment vous protéger des tactiques de désinformation ?
• Sinon, comment les gouvernements et les agences peuvent-ils empêcher la propagation de ces tactiques ?