Propagandabots: een leger van digitale agitators

• Auteur:
• auteursnaam

  Quantumrun-prognose
• 26 oktober 2022

Samenvatting inzicht

In het tijdperk van sociale media zijn online bots een steeds vaker gebruikt hulpmiddel geworden voor het verspreiden van propaganda. Deze bots zijn geautomatiseerde accounts die zijn ontworpen om echte mensen na te bootsen en kunnen worden gebruikt om de politiek en actuele gebeurtenissen te beïnvloeden door desinformatie te verspreiden. De langetermijngevolgen van het toegenomen gebruik van deze bots kunnen onder meer zijn dat bedrijven en politieke partijen ze gebruiken om de publieke opinie te manipuleren, en meer synthetische sociale-media-accounts die het vuur van controversiële debatten en beleid aanwakkeren.

Propagandabots-context

Een bot maakt gebruik van kunstmatige intelligentie (AI)-software en kan autonoom acties uitvoeren zoals het delen van berichten, het opnieuw delen, leuk vinden, volgen, niet meer volgen of direct messaging van verschillende accounts op een mediaplatform. Vanwege de verscheidenheid aan AI-softwaretoepassingen hebben media en sociale bewegingen deze technologie aangepast voor meer interactie en bereik met ledenbestand. Propagandabots zijn in populariteit gestegen onder schurkenstaten, organisaties en actiegroepen, omdat de softwareplatforms die ze creëren en beheren steeds toegankelijker en gebruiksvriendelijker zijn geworden.

Deze bots zijn zeer veelzijdig en programmeerbaar, waardoor ze bijzonder effectief zijn in het beïnvloeden van de publieke opinie door zich op specifieke gemeenschappen te richten. De bots kunnen valse informatie over kandidaten en kwesties verspreiden of mensen met tegengestelde opvattingen lastigvallen. Verder kunnen ze valse sociale-mediaprofielen aanmaken om steun te verwerven voor een bepaalde kandidaat of zaak. Met name het sociale mediaplatform Twitter is het toevluchtsoord voor deze bots geworden, omdat de site zich goed leent voor korte, geschreven berichten. 

Propaganda-bots werden ingezet in verschillende spraakmakende politieke campagnes, waaronder de Amerikaanse presidentsverkiezingen en het Britse Brexit-referendum in 2016. In beide gevallen verspreidden bots verkeerde informatie en zaaiden ze onenigheid onder de kiezers. Hoewel propagandabots niet beperkt zijn tot autoritaire landen, zijn ze wijdverbreid op plaatsen waar de vrijheid van meningsuiting beperkt is. In dergelijke landen gebruikt de overheid vaak bots om de bevolking onder controle te houden en protesten en afwijkende meningen te onderdrukken. Voorbeelden zijn China en Rusland, die hun zeer beperkte internetnetwerken vaak overspoelen met op de overheid gerichte inhoud met behulp van kunstmatige intelligentie (AI) en machine learning (ML) algoritmen.

Disruptieve impact

Enkele belangrijke ontwikkelingen die de opkomst van propagandabots mogelijk hebben gemaakt, zijn de toenemende competentie van AI om tekst te genereren en de groeiende populariteit van chatbots op sociale media. Tekstgenererende software is geavanceerd genoeg om veel mensen meestal voor de gek te houden. De tekstgenererende software kan invloedrijke opiniestukken schrijven over zeer complexe nationale kwesties of met consumenten praten op handelswebsites. Deze bots worden zelfs gebruikt door websites die beweren legitieme lokale nieuwsbronnen te zijn, maar die desinformatie verstrekken (ook bekend als roze-slijmjournalistiek).

In 2017 ontving de Amerikaanse Federal Communications Commission (FCC) meer dan 22 miljoen reacties in haar uitnodiging voor de publieke opinie over netneutraliteit. Ongeveer de helft van de opmerkingen bleek frauduleus te zijn, met behulp van gestolen identiteiten. Deze opmerkingen waren simplistisch; ongeveer 1.3 miljoen werden geproduceerd op basis van hetzelfde sjabloon, waarbij sommige woorden zijn veranderd om er anders uit te zien. 

Terwijl in 2020, Harvard University-onderzoeker Max Weiss software voor het genereren van tekst creëerde om 1,000 reacties te schrijven op een overheidsoproep met betrekking tot het nationale ziektekostenverzekeringsprogramma Medicaid. Weiss voerde dit onderzoek uit om te bewijzen hoe gemakkelijk het was om propagandabots te programmeren. De opmerkingen waren allemaal uniek en geloofwaardig, zozeer zelfs dat de Medicaid-beheerders dachten dat ze echt waren. Weiss informeerde vervolgens Medicaid over het onderzoek dat hij deed en liet de opmerkingen verwijderen om te voorkomen dat een beleidsdebat bevooroordeeld zou worden. 

Gevolgen van propagandabots

Bredere implicaties van propagandabots kunnen zijn: 

• Bedrijven die propagandabots gebruiken om waardevolle public relations-inhoud te creëren om hun bedrijfsreputatie te herstellen.
• Toenemende gevallen van gepersonaliseerde sms-berichten en e-mails die cybercriminelen helpen bij het uitvoeren van identiteitsdiefstal, fraude en phishing.
• Particulieren die propagandabots huren voor persoonlijk gebruik; bijvoorbeeld het gebruik van bots om volgers op sociale media te vergroten en mensen online lastig te vallen.
• Grotere hoeveelheden AI-gestuurde persona's die brieven sturen naar kranten en gekozen functionarissen, individuele opmerkingen indienen bij openbare regelgevende processen en politieke kwesties bespreken op sociale media.
• Overheden die proberen strengere moderatiewetgeving in te voeren voor Big Tech-bedrijven om het gebruik en de creatie van bots te reguleren.
• Bedrijven passen zich aan aan de surveillancemogelijkheden van propagandabots, wat leidt tot een betere monitoring van de productiviteit van werknemers en het gedrag van klanten.
• Het scepticisme van de consument neemt toe naarmate het onderscheid tussen authentieke en door bot gegenereerde inhoud een uitdaging wordt, wat gevolgen heeft voor het merkvertrouwen en de marketingeffectiviteit.
• Beleidsmakers worden geconfronteerd met het dilemma om de vrijheid van meningsuiting in evenwicht te brengen met de noodzaak om desinformatie te beteugelen, waardoor de reikwijdte van de wetgeving op digitale communicatieplatforms wordt beïnvloed.

Vragen om te overwegen

• Hoe kunnen mensen en organisaties zichzelf beschermen tegen het onbewust aangaan van gesprekken met propagandabots?
• Hoe gaan bots anders het publieke debat en de discussie veranderen?
• Wat zijn enkele recente ontmoetingen die je hebt gehad met propagandabots op sociale media?