Bots de propaganda: un exèrcit d'agitadors digitals

• autor:
• nom de l'autor

  Previsió de Quantumrun
• Octubre 26, 2022

Resum d'informació

En l'era de les xarxes socials, els robots en línia s'han convertit en una eina cada cop més habitual per difondre propaganda. Aquests robots són comptes automatitzats dissenyats per imitar persones reals i es poden utilitzar per influir en la política i els esdeveniments actuals difonent la desinformació. Les implicacions a llarg termini de l'augment de l'ús d'aquests robots poden incloure empreses i partits polítics que els utilitzen per manipular les opinions públiques i comptes de xarxes socials més sintètics que aviven les flames de debats i polítiques controvertides.

Context dels robots de propaganda

Un bot utilitza programari d'intel·ligència artificial (IA) i pot realitzar de manera autònoma accions com ara compartir missatges, tornar a compartir, agradar, seguir, deixar de seguir o enviar missatges directes a diversos comptes en una plataforma multimèdia. A causa de la varietat d'aplicacions de programari d'IA, els mitjans de comunicació i els moviments socials han adaptat aquesta tecnologia per augmentar la interacció i l'abast amb les bases de membres. Els robots de propaganda han augmentat en popularitat entre els governs, les organitzacions i els grups d'activistes canalla perquè les plataformes de programari que els creen i gestionen s'han tornat cada cop més accessibles i fàcils d'utilitzar.

Aquests bots són molt versàtils i programables, cosa que els fa especialment efectius per influir en l'opinió pública dirigint-se a comunitats específiques. Els robots poden difondre informació falsa sobre candidats i problemes o assetjar persones amb opinions oposades. A més, poden crear perfils de xarxes socials falsos per fabricar suport per a un candidat o una causa en particular. En particular, la plataforma de xarxes socials Twitter s'ha convertit en el refugi d'aquests robots, ja que el lloc presta bé als missatges breus i escrits. 

Els robots de propaganda es van desplegar en diverses campanyes polítiques d'alt perfil, incloses les eleccions presidencials dels Estats Units i el referèndum del Brexit del Regne Unit el 2016. En ambdós casos, els robots van difondre desinformació i van sembrar discòrdia entre els votants. Tot i que els robots de propaganda no es limiten als països autoritaris, estan molt estesos en llocs on la llibertat d'expressió és limitada. En aquestes nacions, el govern sovint utilitza robots per controlar la població i suprimir les protestes i la dissidència. Alguns exemples són la Xina i Rússia, que sovint inunden les seves xarxes d'Internet molt restringides amb contingut orientat al govern mitjançant algorismes d'intel·ligència artificial (IA) i d'aprenentatge automàtic (ML).

Impacte disruptiu

Alguns avenços significatius que han permès l'augment dels bots de propaganda són la creixent competència de la IA per generar text i la creixent popularitat dels chatbots de les xarxes socials. El programari de generació de text és prou sofisticat com per enganyar moltes persones la majoria de les vegades. El programari de generació de text pot escriure articles d'opinions influents sobre qüestions nacionals molt complexes o parlar amb els consumidors als llocs web dels comerciants. Aquests robots fins i tot són utilitzats per llocs web que pretenen ser fonts de notícies locals legítimes, però proporcionen desinformació (també conegut com a periodisme de llima rosa).

El 2017, la Comissió Federal de Comunicacions (FCC) dels EUA va rebre més de 22 milions de comentaris en la seva invitació a l'opinió pública sobre la neutralitat de la xarxa. Al voltant de la meitat dels comentaris semblaven ser fraudulents, utilitzant identitats robades. Aquests comentaris eren simplistes; aproximadament 1.3 milions es van produir a partir de la mateixa plantilla, amb algunes paraules canviades per semblar diferents. 

Mentre que el 2020, l'investigador de la Universitat de Harvard Max Weiss va crear un programari de generació de text per escriure 1,000 comentaris en una trucada governamental sobre el programa nacional d'assegurança mèdica Medicaid. Weiss va realitzar aquest estudi per demostrar com de fàcil era programar robots de propaganda. Tots els comentaris eren únics i creïbles, tant és així que els administradors de Medicaid van pensar que eren reals. Aleshores, Weiss va informar a Medicaid de la investigació que estava fent i va eliminar els comentaris per evitar que qualsevol debat polític es tornés esbiaixat. 

Implicacions dels robots de propaganda

Les implicacions més àmplies dels robots de propaganda poden incloure: 

• Empreses que utilitzen robots de propaganda per crear contingut valuós de relacions públiques per restaurar la seva reputació corporativa.
• Augment dels casos de missatges de text i correus electrònics personalitzats que ajuden els ciberdelinqüents a executar robatori d'identitat, frau i pesca.
• Persones que lloguen bots de propaganda per a ús personal; Per exemple, utilitzar bots per augmentar els seguidors de les xarxes socials i assetjar la gent en línia.
• Volums més alts de persones impulsades per IA que envien cartes a diaris i funcionaris electes, que envien comentaris individuals als processos públics d'elaboració de normes i que discuteixen qüestions polítiques a les xarxes socials.
• Governs que intenten implementar una legislació de moderació més estricta a les empreses Big Tech per regular l'ús i la creació de bots.
• Empreses que s'adapten a les capacitats de vigilància dels robots de propaganda, donant lloc a un seguiment millorat de la productivitat dels empleats i del comportament dels clients.
• L'escepticisme dels consumidors s'intensifica a mesura que la distinció entre contingut autèntic i generat per bots esdevé un repte, afectant la confiança de la marca i l'eficàcia del màrqueting.
• Els responsables polítics s'enfronten al dilema d'equilibrar la llibertat d'expressió amb la necessitat de frenar la desinformació, influint en l'abast de la legislació sobre plataformes de comunicació digital.

Preguntes a tenir en compte

• Com es poden protegir les persones i les organitzacions de participar sense saber-ho en un discurs amb robots de propaganda?
• De quina altra manera els robots canviaran el debat i la discussió pública?
• Quines són algunes de les trobades recents que heu tingut amb els robots de propaganda de les xarxes socials?