Propagandní roboti: Armáda digitálních agitátorů

• Autor:
• jméno autora

  Quantumrun Foresight
• Října 26, 2022

Shrnutí statistik

V éře sociálních médií se online boti stávají stále běžnějším nástrojem pro šíření propagandy. Tito roboti jsou automatizované účty navržené k napodobování skutečných lidí a lze je použít k ovlivňování politiky a aktuálního dění šířením dezinformací. Dlouhodobé důsledky zvýšeného používání těchto robotů mohou zahrnovat společnosti a politické strany, které je používají k manipulaci s veřejným míněním, a syntetickější účty na sociálních sítích, které rozdmýchávají plameny kontroverzních debat a politik.

Kontext propagandistických robotů

Robot používá software umělé inteligence (AI) a může autonomně provádět akce, jako je sdílení zpráv, opětovné sdílení, lajkování, sledování, zrušení sledování nebo přímé zasílání zpráv různých účtů na mediální platformě. Vzhledem k rozmanitosti softwarových aplikací AI přizpůsobila média a sociální hnutí tuto technologii pro zvýšenou interakci a dosah s členskými základnami. Propagandističtí boti vzrostli na popularitě mezi nepoctivými vládami, organizacemi a aktivistickými skupinami, protože softwarové platformy, které je vytvářejí a spravují, jsou stále dostupnější a snadno použitelné.

Tyto roboty jsou vysoce univerzální a programovatelné, díky čemuž jsou zvláště účinné při ovlivňování veřejného mínění zacílením na konkrétní komunity. Boti mohou šířit nepravdivé informace o kandidátech a problémech nebo obtěžovat lidi s opačnými názory. Dále mohou vytvářet falešné profily na sociálních sítích k výrobě podpory pro konkrétního kandidáta nebo věc. Zejména platforma sociálních médií Twitter se stala útočištěm pro tyto roboty, protože stránka dobře půjčuje krátké psané zprávy. 

Propagandističtí roboti byli nasazeni v několika vysoce sledovaných politických kampaních, včetně amerických prezidentských voleb a britského referenda o Brexitu v roce 2016. V obou případech roboti šířili dezinformace a zasévali mezi voliče neshody. I když se roboti propagandy neomezují na autoritářské země, jsou rozšířeni v místech, kde je omezena svoboda slova. V takových zemích vláda často používá roboty ke kontrole obyvatelstva a potlačování protestů a nesouhlasu. Příkladem jsou Čína a Rusko, které často zaplavují své vysoce omezené internetové sítě vládním obsahem využívajícím algoritmy umělé inteligence (AI) a strojového učení (ML).

Rušivý dopad

Některé významné pokroky, které umožnily vzestup propagandistických robotů, jsou rostoucí schopnost umělé inteligence generovat text a rostoucí popularita chatbotů na sociálních sítích. Software pro generování textu je dostatečně sofistikovaný, aby většinu času oklamal mnoho lidí. Software pro generování textu může psát vlivná op-eds o vysoce komplexních národních otázkách nebo mluvit se spotřebiteli na webových stránkách obchodníků. Tyto roboty jsou dokonce využívány weby, které se tváří jako legitimní místní zpravodajské zdroje, ale poskytují dezinformace (také známé jako žurnalistika z růžového slizu).

V roce 2017 obdržela americká Federální komise pro komunikace (FCC) ve své výzvě k vyjádření veřejného mínění ohledně síťové neutrality více než 22 milionů připomínek. Přibližně polovina komentářů se zdála být podvodná, využívající kradené identity. Tyto komentáře byly zjednodušené; asi 1.3 milionu bylo vyrobeno ze stejné šablony, přičemž některá slova byla změněna tak, aby vypadala jinak. 

Zatímco v roce 2020 výzkumník z Harvardské univerzity Max Weiss vytvořil software pro generování textu, aby mohl napsat 1,000 XNUMX komentářů k vládní výzvě týkající se národního programu zdravotního pojištění Medicaid. Weiss provedl tuto studii, aby dokázal, jak snadné bylo programovat propagandistické roboty. Všechny komentáře byly jedinečné a uvěřitelné, a to natolik, že si správci Medicaidu mysleli, že jsou skutečné. Weiss poté informoval Medicaid o výzkumu, který prováděl, a nechal komentáře odstranit, aby se předešlo zaujatosti jakékoli politické debaty. 

Důsledky propagandistických robotů

Širší důsledky propagandistických robotů mohou zahrnovat: 

• Společnosti využívající propagandistické roboty k vytváření hodnotného obsahu pro styk s veřejností, aby obnovily svou firemní reputaci.
• Přibývá případů personalizovaných textových zpráv a e-mailů, které pomáhají kyberzločincům při provádění krádeží identity, podvodů a phishingu.
• Jednotlivci pronajímající propagandistické roboty pro osobní použití; např. používání robotů ke zvýšení počtu sledujících na sociálních sítích a obtěžování lidí online.
• Větší objemy osob řízených umělou inteligencí zasílají dopisy novinám a voleným představitelům, zasílají jednotlivé komentáře k veřejným procesům tvorby pravidel a diskutují o politických otázkách na sociálních sítích.
• Vlády, které se pokoušejí zavést přísnější legislativu o moderování velkých technologických firem, aby regulovaly používání a vytváření botů.
• Podniky se přizpůsobují možnostem sledování propagandistických robotů, což vede k lepšímu monitorování produktivity zaměstnanců a chování zákazníků.
• Skepse spotřebitelů se zesiluje, protože rozlišování mezi autentickým obsahem a obsahem generovaným roboty se stává náročným, což má dopad na důvěru značky a efektivitu marketingu.
• Tvůrci politik, kteří čelí dilematu rovnováhy mezi svobodou slova a potřebou omezit dezinformace, ovlivňující rozsah legislativy o digitálních komunikačních platformách.

Otázky k zamyšlení

• Jak se mohou lidé a organizace chránit před nevědomým zapojením se do diskurzu s propagandistickými roboty?
• Jak jinak boti změní veřejnou debatu a diskusi?
• Jaká jsou některá nedávná setkání s roboty propagandy na sociálních sítích?