Propagandni botovi: Vojska digitalnih agitatora

• Autor:
• ime autora

  Quantumrun Foresight
• Listopada 26, 2022

Sažetak uvida

U eri društvenih medija, internetski botovi postali su sve češći alat za širenje propagande. Ovi botovi su automatizirani računi dizajnirani da oponašaju stvarne ljude i mogu se koristiti za utjecaj na politiku i aktualna događanja širenjem dezinformacija. Dugoročne implikacije povećane upotrebe ovih robota mogu uključivati ​​tvrtke i političke stranke koje ih koriste za manipuliranje javnim mnijenjima i više sintetičkih računa na društvenim mrežama koji raspiruju vatru kontroverznih rasprava i politika.

Kontekst propagandnih botova

Bot koristi softver umjetne inteligencije (AI) i može samostalno obavljati radnje kao što su dijeljenje poruka, ponovno dijeljenje, sviđanje, praćenje, prestanak praćenja ili izravno slanje poruka različitim računima na medijskoj platformi. Zbog raznolikosti softverskih aplikacija umjetne inteligencije, mediji i društveni pokreti prilagodili su ovu tehnologiju za povećanu interakciju i doseg s bazama članstva. Propagandni botovi porasli su u popularnosti među lažnim vladama, organizacijama i aktivističkim skupinama jer su softverske platforme koje ih stvaraju i upravljaju postale sve dostupnije i jednostavnije za korištenje.

Ovi su botovi vrlo svestrani i programibilni, što ih čini posebno učinkovitima u utjecanju na javno mnijenje ciljanjem na određene zajednice. Botovi mogu širiti lažne informacije o kandidatima i problemima ili uznemiravati ljude sa suprotnim stavovima. Nadalje, mogu stvoriti lažne profile na društvenim mrežama kako bi proizveli podršku određenom kandidatu ili cilju. Konkretno, platforma društvenih medija Twitter postala je utočište za te botove budući da stranica dobro odgovara kratkim, pisanim porukama. 

Propagandni botovi korišteni su u nekoliko istaknutih političkih kampanja, uključujući predsjedničke izbore u SAD-u i referendum o Brexitu u Ujedinjenom Kraljevstvu 2016. U oba slučaja botovi su širili dezinformacije i sijali razdor među biračima. Iako propagandni botovi nisu ograničeni na autoritarne zemlje, oni su rašireni na mjestima gdje je sloboda govora ograničena. U takvim zemljama vlada često koristi botove za kontrolu stanovništva i suzbijanje prosvjeda i neslaganja. Primjeri su Kina i Rusija, koje često preplavljuju svoje vrlo ograničene internetske mreže sadržajem usmjerenim na državu koristeći algoritme umjetne inteligencije (AI) i strojnog učenja (ML).

Razarajući učinak

Neka značajna kretanja koja su omogućila uspon propagandnih botova su sve veća sposobnost umjetne inteligencije za generiranje teksta i rastuća popularnost chatbota društvenih medija. Softver za generiranje teksta dovoljno je sofisticiran da prevari mnoge ljude većinu vremena. Softver za generiranje teksta može pisati utjecajne komentare o vrlo složenim nacionalnim pitanjima ili razgovarati s potrošačima na trgovačkim web stranicama. Ove botove koriste čak i web-mjesta koja se predstavljaju kao legitimni lokalni izvori vijesti, ali daju dezinformacije (također poznato kao ružičasto sluzavo novinarstvo).

Godine 2017. Američka savezna komisija za komunikacije (FCC) primila je više od 22 milijuna komentara u svom pozivu za javno mnijenje o neutralnosti mreže. Otprilike polovica komentara čini se lažnom, uz korištenje ukradenih identiteta. Ovi su komentari bili jednostavni; oko 1.3 milijuna proizvedeno je iz istog predloška, ​​s nekim promijenjenim riječima kako bi izgledale drugačije. 

Dok je 2020. istraživač sa Sveučilišta Harvard Max Weiss stvorio softver za generiranje teksta za pisanje 1,000 komentara na vladin poziv u vezi s nacionalnim programom zdravstvenog osiguranja Medicaid. Weiss je proveo ovu studiju kako bi dokazao koliko je lako programirati propagandne botove. Svi su komentari bili jedinstveni i uvjerljivi, toliko da su administratori Medicaida mislili da su stvarni. Weiss je zatim obavijestio Medicaid o istraživanju koje je provodio i dao ukloniti komentare kako bi spriječio da rasprava o politici postane pristrana. 

Implikacije propagandnih botova

Šire implikacije propagandnih botova mogu uključivati: 

• Tvrtke koriste propagandne botove za stvaranje vrijednih sadržaja za odnose s javnošću kako bi vratile svoj korporativni ugled.
• Sve više slučajeva personaliziranih tekstualnih poruka i e-pošte koji pomažu kibernetičkim kriminalcima u krađi identiteta, prijevari i krađi identiteta.
• Pojedinci koji iznajmljuju propagandne robote za osobnu upotrebu; npr. korištenje botova za povećanje broja pratitelja na društvenim mrežama i uznemiravanje ljudi na mreži.
• Veće količine osoba vođenih umjetnom inteligencijom šalju pisma novinama i izabranim dužnosnicima, podnose pojedinačne komentare javnim procesima donošenja pravila i raspravljaju o političkim temama na društvenim medijima.
• Vlade pokušavaju primijeniti strože zakone o moderiranju velikih tehnoloških tvrtki kako bi regulirale upotrebu i stvaranje botova.
• Poduzeća koja se prilagođavaju mogućnostima nadzora propagandnih robota, što dovodi do poboljšanog praćenja produktivnosti zaposlenika i ponašanja kupaca.
• Potrošački skepticizam se pojačava kako razlika između autentičnog i bot-generiranog sadržaja postaje izazovna, što utječe na povjerenje robne marke i marketinšku učinkovitost.
• Kreatori politika suočeni s dilemom balansiranja slobode govora s potrebom za suzbijanjem dezinformacija, utječući na opseg zakonodavstva o digitalnim komunikacijskim platformama.

Pitanja za razmatranje

• Kako se ljudi i organizacije mogu zaštititi od nesvjesnog upuštanja u diskurs s propagandnim botovima?
• Kako će inače botovi promijeniti javnu debatu i diskusiju?
• Koje ste nedavne susrete imali s propagandnim botovima društvenih medija?