Taktikoj disvastigantaj misinformadon: Kiel la homa cerbo estas invadita

• Aŭtoro:
• Aŭtora nomo

  Quantumrun Foresight
• Oktobro 4, 2023

Enrigarda resumo

Misinformo disvastiĝas per taktikoj kiel la Kontaĝa Modelo kaj ĉifritaj programoj. Grupoj kiel Ghostwriter celas NATO kaj usonajn trupojn, dum AI manipulas publikan opinion. Homoj ofte fidas konatajn fontojn, igante ilin susceptibles al falsaj informoj. Ĉi tio povus konduki al pli da AI-bazitaj misinformkampanjoj, pli fortaj registaraj regularoj, pliigita uzo de ĉifritaj programoj de ekstremistoj, pliigita cibersekureco en amaskomunikilaro, kaj edukaj kursoj pri kontraŭbatalado de misinformado.

Taktikoj disvastigantaj misinforman kuntekston

Misinformaj taktikoj estas iloj kaj strategioj ofte aplikataj en sociaj retoj, kreante pandemion de malveraj kredoj. Ĉi tiu manipulado de informoj rezultigis ĝeneraligitan miskomprenon pri temoj, kiuj iras de balotfraŭdo ĝis ĉu perfortaj atakoj estas realaj (ekz., la pafado de la bazlernejo de Sandy Hook) aŭ ĉu vakcinoj estas sekuraj. Ĉar falsaj novaĵoj daŭre estas dividitaj tra malsamaj platformoj, ĝi kreis profundan malfidon kontraŭ sociaj institucioj kiel la amaskomunikilaro. Unu teorio pri kiel misgvidaj informoj disvastiĝas nomiĝas Contagion Model, kiu baziĝas sur kiel komputilaj virusoj funkcias. Reto estas kreita per nodoj, kiuj reprezentas homojn, kaj randoj, kiuj simbolas sociajn ligilojn. Koncepto estas semita en unu "menso" kaj disvastiĝas sub diversaj kondiĉoj kaj depende de sociaj rilatoj.

Ĝi ne helpas, ke teknologio kaj la kreskanta ciferecigo de socio helpas fari misinformajn taktikojn pli efikaj ol iam ajn. Ekzemplo estas ĉifritaj mesaĝaj programoj (EMAs), kiuj ne nur faciligas kunhavigi falsajn informojn al personaj kontaktoj, sed ankaŭ malebligas, ke aplikaj kompanioj spuru la mesaĝojn kundividitajn. Ekzemple, ekstremdekstraj grupoj translokigitaj al EMA-oj post la atako de la Usona Kapitolo de januaro 2021 ĉar ĉefaj platformoj de sociaj amaskomunikiloj kiel Twitter malpermesis ilin. Malinformaj taktikoj havas tujajn kaj longperspektivajn sekvojn. Krom elektoj kie kritikindaj personecoj kun krimregistroj venkas per trolbienoj, ili povas marĝenigi minoritatojn kaj faciligi militpropagandon (ekz., la ukrainia invado de Rusio). 

Disrompa efiko

En 2020, sekurecfirmao FireEye publikigis raporton elstarigante la misinformajn klopodojn de grupo de retpiratoj nomitaj Ghostwriter. Ekde marto 2017, la propagandistoj disvastigas mensogojn, precipe kontraŭ la armea alianco Nordatlantika Traktato-Organizo (NATO) kaj usonaj trupoj en Pollando kaj Baltio. Ili publikigis falsitan materialon en sociaj amaskomunikiloj kaj por-rusaj novaĵretejoj. Ghostwriter foje uzis pli agreseman aliron: haki la enhavadministradsistemojn (CMS) de novaĵretejoj por afiŝi siajn proprajn rakontojn. La grupo tiam distribuas siajn falsajn novaĵojn uzante falsajn retpoŝtojn, afiŝojn pri sociaj amaskomunikiloj kaj eĉ opiniojn skribitajn de ili en aliaj retejoj, kiuj akceptas enhavon de legantoj.

Alia misinforma taktiko uzas algoritmojn kaj artefaritan inteligentecon (AI) por manipuli publikan opinion en sociaj amaskomunikiloj, kiel ekzemple "plifortigi" sociajn amaskomunikilarojn per robotoj aŭ krei aŭtomatigitajn trolkontojn por afiŝi malamajn komentojn. Fakuloj nomas tion komputila propagando. Dume, esplorado de The New York Times malkovris, ke politikistoj uzas retpoŝton por disvastigi misinformadon pli ofte ol homoj konscias. En Usono, ambaŭ partioj estas kulpaj uzi hiperbolon en siaj retpoŝtoj al eroj, kiuj ofte povas instigi kunhavigi falsajn informojn. 

Estas kelkaj ĉefaj kialoj, kial homoj falas por misinformaj kampanjoj. 

• Unue, homoj estas sociaj lernantoj kaj emas fidi siajn fontojn de informoj kiel amikoj aŭ familianoj. Ĉi tiuj homoj, siavice, ricevas siajn novaĵojn de fidindaj amikoj, malfaciligante rompi ĉi tiun ciklon. 
• Due, homoj ofte malsukcesas iniciateme kontroli la informojn, kiujn ili konsumas, precipe se ili kutimas ricevi siajn novaĵojn de unu fonto (ofte tradiciaj amaskomunikiloj aŭ iliaj plej ŝatataj sociaj amaskomunikiloj). platformoj kiel Facebook aŭ Twitter). Kiam ili vidas titolon aŭ bildon (kaj eĉ nur markadon) kiu subtenas iliajn kredojn, ili ofte ne pridubas la aŭtentikecon de ĉi tiuj asertoj (kiel ajn ridinde). 
• Eĥambroj estas potencaj misinformaj iloj, aŭtomate igante homojn kun kontraŭaj kredoj la malamiko. La homa cerbo estas fiksita por serĉi informojn, kiuj subtenas ekzistantajn ideojn kaj rabatajn informojn, kiuj kontraŭas ilin.

Pli larĝaj implicoj de taktikoj disvastigantaj misinformadon

Eblaj implicoj de taktikoj disvastigantaj misinformadon povas inkludi: 

• Pli da kompanioj specialigitaj pri AI kaj robotoj por helpi politikistojn kaj propagandistojn akiri adeptojn kaj "kredindecon" per lertaj misinformaj kampanjoj.
• Registaroj premataj krei kontraŭ-malinformajn leĝojn kaj agentejojn por kontraŭbatali trolbienojn kaj misinformajn strategiistojn.
• Pligrandigante elŝutojn de EMA-oj por ekstremismaj grupoj, kiuj volas disvastigi propagandon kaj ruinigi reputaciojn.
• Amaskomunikilaraj retejoj investantaj en multekostaj cibersekurecaj solvoj por malhelpi misinformajn retpiratojn planti falsajn novaĵojn en siaj sistemoj. Novaj generaj AI-solvoj povas esti uzataj en ĉi tiu moderiga procezo.
• Generativaj AI-funkciigitaj robotoj povas esti dungitaj de malbonaj aktoroj por produkti ondon de propagando kaj misinformada amaskomunikila enhavo ĉe skalo.
• Pliigita premo por universitatoj kaj komunumaj lernejoj inkluzivi kontraŭ-malinformajn kursojn. 

Konsiderindaj demandoj

• Kiel vi protektas vin kontraŭ misinformaj taktikoj?
• Kiel alie registaroj kaj agentejoj povas malhelpi la disvastiĝon de ĉi tiuj taktikoj?