Áróðursbottar: Her stafrænna æsingamanna

• Höfundur:
• Höfundur nafn

  Quantumrun Foresight
• Október 26, 2022

Innsýn samantekt

Á tímum samfélagsmiðla hafa netvélar orðið sífellt algengara tæki til að dreifa áróðri. Þessir vélmenni eru sjálfvirkir reikningar sem eru hannaðir til að líkja eftir raunverulegu fólki og hægt er að nota til að hafa áhrif á stjórnmál og atburði líðandi stundar með því að dreifa óupplýsingum. Langtímaáhrif aukinnar notkunar á þessum vélmennum geta falið í sér að fyrirtæki og stjórnmálaflokkar noti þá til að hagræða almenningsálitum og tilbúnari reikninga á samfélagsmiðlum sem kveikja í umdeildum umræðum og stefnum.

Samhengi áróðursbots

Botni notar gervigreind (AI) hugbúnað og getur sjálfkrafa framkvæmt aðgerðir eins og að deila skilaboðum, deila aftur, líka við, fylgja, hætta að fylgjast með eða senda beint skilaboð á ýmsa reikninga á fjölmiðlavettvangi. Vegna fjölbreytileika gervigreindarhugbúnaðar hafa fjölmiðlar og félagslegar hreyfingar aðlagað þessa tækni til að auka samskipti og ná til meðlima. Áróðursbots hafa aukist í vinsældum meðal fantur ríkisstjórna, félagasamtaka og aðgerðahópa vegna þess að hugbúnaðarvettvangarnir sem búa til og stjórna þeim hafa orðið sífellt aðgengilegri og auðveldari í notkun.

Þessir vélmenni eru mjög fjölhæfur og forritanlegur, sem gerir þá sérstaklega áhrifaríka til að hafa áhrif á almenningsálitið með því að miða á ákveðin samfélög. Bottarnir geta dreift röngum upplýsingum um frambjóðendur og málefni eða áreitt fólk með andstæðar skoðanir. Ennfremur geta þeir búið til falsa samfélagsmiðlasnið til að framleiða stuðning fyrir tiltekinn frambjóðanda eða málstað. Sérstaklega hefur samfélagsmiðillinn Twitter orðið griðastaður þessara vélmenna þar sem síðan lánar stuttum, skriflegum skilaboðum vel. 

Áróðursbottar voru notaðir í nokkrum áberandi pólitískum herferðum, þar á meðal forsetakosningunum í Bandaríkjunum og Brexit þjóðaratkvæðagreiðslunni í Bretlandi árið 2016. Í báðum tilfellum dreifðu vélmenni rangar upplýsingar og sáðu ósætti meðal kjósenda. Þó að áróðursbottar séu ekki bundnir við einræðisrík lönd eru þeir útbreiddir á stöðum þar sem málfrelsi er takmarkað. Í slíkum þjóðum nota stjórnvöld oft vélmenni til að stjórna íbúafjölda og bæla niður mótmæli og andóf. Dæmi eru Kína og Rússland, sem flæða oft mjög takmörkuð netkerfi sín með efni sem hallar á stjórnvöld með gervigreind (AI) og vélrænni (ML) reiknirit.

Truflandi áhrif

Nokkur mikilvæg þróun sem hefur gert það að verkum að áróðursbottar hafa komið fram eru aukin hæfni gervigreindar til að búa til texta og vaxandi vinsældir spjallbotna á samfélagsmiðlum. Hugbúnaður til að búa til texta er nógu háþróaður til að blekkja marga oftast. Hugbúnaðurinn sem býr til texta getur skrifað áhrifamiklar greinargerðir um mjög flókin landsmál eða talað við neytendur á vefsíðum kaupmanna. Þessir vélmenni eru jafnvel notaðir af vefsíðum sem þykjast vera lögmætar staðbundnar fréttaheimildir en veita óupplýsingar (einnig þekkt sem pink-slime blaðamennska).

Árið 2017 barst bandaríska alríkissamskiptanefndin (FCC) yfir 22 milljónir athugasemda í boði sínu um almenningsálit varðandi nethlutleysi. Um helmingur ummæla virtist vera sviksamleg, þar sem stolin auðkenni voru notuð. Þessi ummæli voru einföld; um 1.3 milljónir voru framleiddar úr sama sniðmáti, með sumum orðum breytt til að líta öðruvísi út. 

Árið 2020 bjó Max Weiss, vísindamaður við Harvard-háskóla, til textagerð hugbúnaðar til að skrifa 1,000 athugasemdir við símtal stjórnvalda varðandi sjúkratryggingakerfið Medicaid. Weiss gerði þessa rannsókn til að sanna hversu auðvelt það var að forrita áróðursbots. Ummælin voru öll einstök og trúverðug, svo mjög að stjórnendur Medicaid héldu að þau væru raunveruleg. Weiss upplýsti síðan Medicaid um rannsóknirnar sem hann var að gera og lét fjarlægja ummælin til að koma í veg fyrir að hvers kyns stefnuræða yrði hlutdræg. 

Afleiðingar áróðursbotna

Víðtækari afleiðingar áróðursbotna geta falið í sér: 

• Fyrirtæki sem nota áróðursbotna til að búa til dýrmætt almannatengslaefni til að endurheimta orðspor fyrirtækja.
• Aukin tilfelli persónulegra textaskilaboða og tölvupósta sem aðstoða netglæpamenn við að framkvæma persónuþjófnað, svik og vefveiðar.
• Einstaklingar sem leigja áróðursbotna til einkanota; td að nota vélmenni til að auka fylgjendur samfélagsmiðla og áreita fólk á netinu.
• Meira magn af gervigreindardrifnum einstaklingum sem senda bréf til dagblaða og kjörinna embættismanna, senda inn einstakar athugasemdir við opinbera reglusetningu og ræða pólitísk málefni á samfélagsmiðlum.
• Ríkisstjórnir sem reyna að innleiða strangari hófsemislöggjöf um stór tæknifyrirtæki til að stjórna notkun og gerð vélmenna.
• Fyrirtæki aðlagast eftirlitsgetu áróðursbotna, sem leiðir til aukins eftirlits með framleiðni starfsmanna og hegðun viðskiptavina.
• Efasemdir neytenda magnast eftir því sem að greina á milli ósvikins efnis og efnis sem myndast af botni verður krefjandi og hefur áhrif á traust vörumerkis og skilvirkni markaðssetningar.
• Stefnumótendur standa frammi fyrir því vandamáli að koma á jafnvægi milli málfrelsis og nauðsyn þess að hefta rangar upplýsingar, sem hafa áhrif á umfang löggjafar um stafræna samskiptavettvang.

Spurningar sem þarf að íhuga

• Hvernig geta fólk og stofnanir verndað sig gegn því að taka þátt í umræðum við áróðursbotna óafvitandi?
• Hvernig annars ætla vélmenni að breyta opinberri umræðu og umræðu?
• Hver eru nokkur nýleg kynni sem þú hefur lent í af áróðursbottum á samfélagsmiðlum?