Taktiken zur Verbreitung von Desinformation: Wie das menschliche Gehirn angegriffen wird

• Autor:
• Autorenname

  Quantumrun-Vorausschau
• 4. Oktober 2023

Zusammenfassung der Einblicke

Fehlinformationen verbreiten sich durch Taktiken wie das Ansteckungsmodell und verschlüsselte Apps. Gruppen wie Ghostwriter nehmen NATO- und US-Truppen ins Visier, während KI die öffentliche Meinung manipuliert. Menschen vertrauen häufig vertrauten Quellen und sind dadurch anfällig für falsche Informationen. Dies könnte zu mehr KI-basierten Desinformationskampagnen, strengeren staatlichen Vorschriften, einer verstärkten Nutzung verschlüsselter Apps durch Extremisten, einer erhöhten Cybersicherheit in den Medien und Bildungskursen zur Bekämpfung von Desinformation führen.

Taktiken zur Verbreitung von Desinformationskontexten

Fehlinformationstaktiken sind Werkzeuge und Strategien, die häufig auf Social-Networking-Sites eingesetzt werden und eine Pandemie falscher Überzeugungen auslösen. Diese Informationsmanipulation hat zu einem weit verbreiteten Missverständnis über Themen geführt, die von Wahlbetrug bis hin zur Frage reichen, ob gewalttätige Angriffe real sind (z. B. die Schießerei in der Grundschule Sandy Hook) oder ob Impfstoffe sicher sind. Da Fake News weiterhin auf verschiedenen Plattformen verbreitet werden, hat dies zu einem tiefen Misstrauen gegenüber sozialen Institutionen wie den Medien geführt. Eine Theorie zur Verbreitung irreführender Informationen heißt Ansteckungsmodell und basiert auf der Funktionsweise von Computerviren. Ein Netzwerk entsteht durch Knoten, die Menschen repräsentieren, und Kanten, die soziale Verbindungen symbolisieren. Ein Konzept wird in einem „Geist“ verankert und verbreitet sich unter verschiedenen Bedingungen und abhängig von sozialen Beziehungen.

Es hilft nicht, dass die Technologie und die zunehmende Digitalisierung der Gesellschaft dazu beitragen, Fehlinformationstaktiken effektiver denn je zu machen. Ein Beispiel sind verschlüsselte Messaging-Apps (EMAs), die nicht nur die Weitergabe falscher Informationen an persönliche Kontakte erleichtern, sondern es App-Unternehmen auch unmöglich machen, die geteilten Nachrichten zu verfolgen. Beispielsweise wechselten rechtsextreme Gruppen nach dem Angriff auf das US-Kapitol im Januar 2021 zu EMAs, weil sie von Mainstream-Social-Media-Plattformen wie Twitter verboten wurden. Desinformationstaktiken haben unmittelbare und langfristige Folgen. Abgesehen von Wahlen, bei denen fragwürdige Persönlichkeiten mit Vorstrafen durch Trollfarmen gewinnen, können sie Minderheiten an den Rand drängen und Kriegspropaganda erleichtern (z. B. Russlands Invasion in der Ukraine). 

Störende Wirkung

Im Jahr 2020 veröffentlichte das Sicherheitsunternehmen FireEye einen Bericht, der die Desinformationsbemühungen einer Hackergruppe namens Ghostwriter hervorhob. Seit März 2017 verbreiten die Propagandisten Lügen, insbesondere gegen das Militärbündnis Nordatlantikpakt-Organisation (NATO) und US-Truppen in Polen und im Baltikum. Sie haben gefälschtes Material in sozialen Medien und prorussischen Nachrichtenseiten veröffentlicht. Ghostwriter haben manchmal einen aggressiveren Ansatz gewählt: Sie hacken die Content-Management-Systeme (CMS) von Nachrichten-Websites, um ihre eigenen Geschichten zu veröffentlichen. Anschließend verbreitet die Gruppe ihre gefälschten Nachrichten über gefälschte E-Mails, Social-Media-Beiträge und sogar von ihr verfasste Kommentare auf anderen Websites, die Inhalte von Lesern akzeptieren.

Eine andere Desinformationstaktik nutzt Algorithmen und künstliche Intelligenz (KI), um die öffentliche Meinung in sozialen Medien zu manipulieren, etwa durch die „Steigerung“ von Social-Media-Followern durch Bots oder die Erstellung automatisierter Troll-Konten, um hasserfüllte Kommentare zu posten. Experten nennen das Computerpropaganda. Unterdessen ergab eine Untersuchung der New York Times, dass Politiker E-Mails häufiger nutzen, um Desinformationen zu verbreiten, als den Menschen bewusst ist. In den USA machen sich beide Parteien schuldig, in ihren E-Mails an ihre Wähler Übertreibungen zu verwenden, die oft dazu führen können, dass falsche Informationen weitergegeben werden. 

Es gibt einige Hauptgründe, warum Menschen auf Fehlinformationskampagnen hereinfallen. 

• Erstens sind Menschen soziale Lerner und neigen dazu, ihren Informationsquellen wie Freunden oder Familienmitgliedern zu vertrauen. Diese Menschen wiederum erhalten ihre Nachrichten von vertrauenswürdigen Freunden, was es schwierig macht, diesen Teufelskreis zu durchbrechen. 
• Zweitens versäumen es die Menschen oft, die von ihnen konsumierten Informationen proaktiv auf Fakten zu prüfen, insbesondere wenn sie es gewohnt sind, ihre Nachrichten aus einer Quelle zu beziehen (häufig traditionelle Medien oder ihre bevorzugten sozialen Medien). Plattformen wie Facebook oder Twitter). Wenn sie eine Schlagzeile oder ein Bild (und auch nur ein Branding) sehen, das ihre Überzeugungen untermauert, stellen sie oft nicht die Authentizität dieser Behauptungen in Frage (egal wie lächerlich sie auch sein mögen). 
• Echokammern sind mächtige Desinformationswerkzeuge, die Menschen mit gegensätzlichen Überzeugungen automatisch zum Feind machen. Das menschliche Gehirn ist darauf programmiert, Informationen zu suchen, die bestehende Ideen unterstützen, und Informationen, die ihnen widersprechen, auszuschließen.

Weiterreichende Auswirkungen von Taktiken zur Verbreitung von Desinformation

Mögliche Auswirkungen von Taktiken zur Verbreitung von Desinformation können sein: 

• Immer mehr Unternehmen spezialisieren sich auf KI und Bots, um Politikern und Propagandisten durch clevere Desinformationskampagnen dabei zu helfen, Anhänger und „Glaubwürdigkeit“ zu gewinnen.
• Regierungen werden unter Druck gesetzt, Anti-Desinformationsgesetze und -behörden zu schaffen, um Trollfarmen und Fehlinformationsstrategen zu bekämpfen.
• Zunehmende Downloads von EMAs für extremistische Gruppen, die Propaganda verbreiten und den Ruf ruinieren wollen.
• Medienseiten investieren in teure Cybersicherheitslösungen, um Desinformations-Hacker daran zu hindern, Fake News in ihre Systeme einzuschleusen. In diesem Moderationsprozess können neuartige generative KI-Lösungen zum Einsatz kommen.
• Bots mit generativer KI können von böswilligen Akteuren eingesetzt werden, um eine Welle von Propaganda- und Desinformationsmedieninhalten in großem Maßstab zu produzieren.
• Erhöhter Druck auf Universitäten und Gemeinschaftsschulen, Anti-Desinformationskurse anzubieten. 

Fragen zu berücksichtigen

• Wie schützen Sie sich vor Desinformationstaktiken?
• Wie sonst können Regierungen und Behörden die Verbreitung dieser Taktiken verhindern?