Propaganda computacional: l'era de l'engany automatitzat

• autor:
• nom de l'autor

  Previsió de Quantumrun
• Novembre 21, 2022

Resum d'informació

En l'era de les xarxes socials, cada vegada és més difícil per a algunes persones confiar en el que veuen i escolten a causa de la propagació de la propaganda computacional: algorismes dissenyats per manipular l'opinió pública. Aquesta tecnologia s'utilitza principalment per influir en la percepció de la gent dels problemes polítics. I a mesura que els sistemes d'intel·ligència artificial (IA) continuen desenvolupant-se, la propaganda computacional es pot aplicar amb finalitats cada cop més letals.

Context de propaganda computacional

La propaganda computacional utilitza sistemes d'IA per crear i difondre informació enganyosa o falsa en línia. En particular, les empreses Big Tech com Facebook, Google i Twitter han estat criticades per utilitzar els seus algorismes per manipular l'opinió pública. Per exemple, el 2016, Facebook va ser acusat d'utilitzar el seu algorisme per suprimir notícies conservadores de la seva secció de temes de tendència. Mentrestant, les eleccions presidencials dels Estats Units del 2016 van ser un cas d'alt perfil on es deia que la propaganda computacional influïa en els votants. Per exemple, Google va ser acusat d'estorgar els seus resultats de cerca per afavorir Hillary Clinton i Twitter va ser criticat per permetre als robots difondre informació falsa durant les eleccions. 

Els efectes de la propaganda computacional es noten globalment, especialment durant les eleccions nacionals i sovint contra grups minoritaris. A Myanmar, del 2017 al 2022, hi ha hagut un augment del discurs d'odi i la violència contra el grup minoritari musulmà rohingya. Gran part d'aquest odi es deu a la propaganda en línia dissenyada per grups nacionalistes a Myanmar que difon notícies falses i vídeos inflamatoris que demonitzen els rohingya. 

Una altra conseqüència de la propaganda computacional és que pot erosionar la confiança en la democràcia i les institucions. Aquesta erosió pot tenir conseqüències greus, donant lloc a una major polarització i malestar polític entre la població domèstica d'un país. A causa de la seva eficàcia demostrada, molts governs i partits polítics a tot el món estan utilitzant propaganda d'IA per armar les plataformes de xarxes socials contra els seus oponents i crítics.

Impacte disruptiu

La propaganda computacional s'està tornant cada cop més sofisticada a causa de la seva integració d'una varietat d'innovacions emergents en IA. Un exemple inclou el processament del llenguatge natural (NLP) que permet a la IA escriure contingut original que soni humà. A més, qualsevol persona pot descarregar-se la tecnologia deepfake i de clonació de veu. Aquestes tecnologies permeten a les persones crear personatges falsos, suplantar personatges públics i organitzar campanyes elaborades de desinformació des dels seus dormitoris. 

Els experts creuen que el perill de la propaganda automatitzada s'amplifica per:

• un públic desinformat,
• un sistema legal que està mal equipat per tractar la desinformació massiva, i
• empreses de xarxes socials amb poca protecció contra l'explotació.

Una solució potencial a la propaganda computacional és que el Congrés dels Estats Units pressioni les empreses de xarxes socials perquè verifiquin la identitat dels seus usuaris. Una altra solució és que les plataformes de xarxes socials adoptin un sistema modificat mitjançant el qual un tercer verifica criptogràficament la identitat d'una persona abans de permetre'ls crear un compte.

Tanmateix, aquestes mesures són difícils d'implementar perquè les plataformes de xarxes socials canvien i evolucionen constantment. Seria difícil per a aquestes corporacions verificar els usuaris amb el panorama en constant canvi de l'ús en línia. A més, molta gent desconfia dels governs que regulen les plataformes de comunicació, ja que pot ser una forma de censura.

Implicacions de la propaganda computacional

Les implicacions més àmplies de la propaganda computacional poden incloure: 

• Els governs utilitzen cada cop més les xarxes socials i els llocs web de notícies falses per a la propaganda computacional patrocinada per l'estat per influir en les eleccions, les polítiques i els afers exteriors.
• L'ús creixent de robots de xarxes socials, comptes falsos i perfils generats per IA dissenyats per difondre desinformació sobre notícies i vídeos fabricats.
• Incidents més violents (per exemple, disturbis públics, intents d'assassinat, etc.) causats per campanyes de propaganda de desinformació en línia, que poden perjudicar els ciutadans, destruir béns públics i interrompre els serveis essencials.
• Augment de les inversions en programes finançats amb fons públics dissenyats per formar el públic per identificar la desinformació i les notícies falses.
• Reforçament de la discriminació contra els grups ètnics i minoritaris, donant lloc a més genocidi i una qualitat de vida més baixa.
• Empreses tecnològiques que despleguen algorismes de detecció avançats per identificar i contrarestar la propaganda computacional, que permeten millorar la integritat dels mitjans digitals i la confiança dels usuaris.
• Les institucions educatives integren l'alfabetització mediàtica als plans d'estudis, fomentant el pensament crític entre els estudiants per discernir la informació real de la propaganda computacional.
• Col·laboracions internacionals entre països per establir estàndards i protocols globals per combatre la desinformació computacional, millorant la seguretat i la cooperació digital global.

Preguntes a tenir en compte

• Com ha afectat la propaganda computacional al teu país?
• De quina manera us protegeu de la propaganda computacional quan consumiu contingut en línia?