Reikniáróður: Tímabil sjálfvirkrar blekkingar

• Höfundur:
• Höfundur nafn

  Quantumrun Foresight
• Nóvember 21, 2022

Innsýn samantekt

Á tímum samfélagsmiðla hefur það orðið sífellt erfiðara fyrir sumt fólk að treysta því sem það sér og heyrir vegna útbreiðslu tölvuáróðurs – reiknirit sem ætlað er að hagræða almenningsálitinu. Þessi tækni er fyrst og fremst notuð til að sveifla hugmyndum fólks um pólitísk málefni. Og eftir því sem gervigreindarkerfi (AI) halda áfram að þróast, gæti tölvuáróður verið beitt í sífellt banvænni markmið.

Reikniáróðurssamhengi

Reikniáróður notar gervigreindarkerfi til að búa til og dreifa villandi eða röngum upplýsingum á netinu. Sérstaklega hafa stór tæknifyrirtæki eins og Facebook, Google og Twitter verið gagnrýnd fyrir að nota reiknirit sín til að hagræða almenningsálitinu. Til dæmis var Facebook sakað árið 2016 um að nota reiknirit sitt til að bæla niður íhaldssamar fréttir frá vinsælum efnishluta sínum. Á sama tíma voru forsetakosningarnar í Bandaríkjunum 2016 áberandi mál þar sem reikniáróður var sagður hafa áhrif á kjósendur. Til dæmis var Google sakað um að skekkja leitarniðurstöður sínar í þágu Hillary Clinton og Twitter var gagnrýnt fyrir að leyfa vélmennum að dreifa röngum upplýsingum í kosningunum. 

Áhrifa tölvuáróðurs gætir á heimsvísu, sérstaklega í kosningum á landsvísu og oft gegn minnihlutahópum. Í Mjanmar, frá 2017 til 2022, hefur verið aukning í hatursorðræðu og ofbeldi gegn minnihlutahópi Róhingja-múslima. Mikið af þessu hatri má rekja til áróðurs á netinu sem er hannaður af þjóðernissinnuðum hópum í Mjanmar sem dreifðu falsfréttum og upprennandi myndböndum sem djöflast yfir Róhingja. 

Önnur afleiðing reikningsáróðurs er að hann getur rýrt traust á lýðræði og stofnanir. Þessi veðrun getur haft alvarlegar afleiðingar, leitt til aukinnar pólunar og pólitískrar ólgu meðal innlendra íbúa lands. Vegna sannaðrar virkni þess nota margar ríkisstjórnir og stjórnmálaflokkar á heimsvísu gervigreindaráróður til að beita samfélagsmiðlum gegn andstæðingum sínum og gagnrýnendum.

Truflandi áhrif

Reikniáróður er að verða sífellt flóknari vegna samþættingar hans á ýmsum nýjum gervigreindum nýjungum. Eitt dæmi er náttúruleg málvinnsla (NLP) sem gerir gervigreindum kleift að skrifa frumlegt efni sem hljómar mannlegt. Að auki er djúpfölsun og raddklónunartækni hægt að hlaða niður af hverjum sem er. Þessi tækni gerir fólki kleift að búa til falskar persónur, líkja eftir opinberum persónum og setja á svið vandaðar óupplýsingaherferðir úr svefnherbergjum sínum. 

Sérfræðingar telja að hættan á sjálfvirkum áróðri sé aukin með:

• óupplýstur almenningur,
• réttarkerfi sem er illa í stakk búið til að meðhöndla fjöldamisupplýsingar, og
• samfélagsmiðlafyrirtæki með litla vernd gegn misnotkun.

Hugsanleg lausn á tölvuáróður er að bandaríska þingið þrýsti á samfélagsmiðlafyrirtæki að sannreyna auðkenni notenda sinna. Önnur lausn er að samfélagsmiðlar taki upp breytt kerfi þar sem þriðji aðili staðfestir auðkenni einstaklings með dulmáli áður en hann leyfir honum að stofna reikning.

Hins vegar eru þessar aðgerðir krefjandi í framkvæmd vegna þess að samfélagsmiðlar breytast og þróast stöðugt. Það væri erfitt fyrir þessi fyrirtæki að sannreyna notendur með síbreytilegu landslagi netnotkunar. Að auki eru margir á varðbergi gagnvart stjórnvöldum sem stjórna samskiptakerfum þar sem það getur verið mynd af ritskoðun.

Afleiðingar reikniáróðurs

Víðtækari afleiðingar tölvuáróðurs geta verið: 

• Ríkisstjórnir nota í auknum mæli samfélagsmiðla og falsfréttavefsíður fyrir ríkisstyrktan tölvuáróður til að hafa áhrif á kosningar, stefnur og utanríkismál.
• Aukin notkun á samfélagsmiðlum, fölsuðum reikningum og gervigreindum sniðum sem eru hönnuð til að dreifa óupplýsingum um tilbúnar fréttir og myndbönd.
• Ofbeldislegri atvik (td opinberar óeirðir, morðtilraunir o.s.frv.) af völdum óupplýsingaáróðursherferða á netinu, sem geta skaðað borgara, eyðilagt almenningseignir og truflað nauðsynlega þjónustu.
• Auknar fjárfestingar í opinberum fjármögnuðum áætlunum sem ætlað er að þjálfa almenning í að bera kennsl á óupplýsingar og falsfréttir.
• Endurframfylgja mismunun gegn þjóðernis- og minnihlutahópum, sem leiðir til fleiri þjóðarmorðs og minni lífsgæða.
• Tæknifyrirtæki sem nota háþróaða greiningarreiknirit til að bera kennsl á og vinna gegn tölvuáróður, sem leiðir til bættrar heiðarleika stafrænna fjölmiðla og trausts notenda.
• Menntastofnanir samþætta fjölmiðlalæsi inn í námskrár, efla gagnrýna hugsun meðal nemenda til að greina staðreyndarupplýsingar frá reikniáróðri.
• Alþjóðlegt samstarf milli landa til að koma á alþjóðlegum stöðlum og samskiptareglum til að berjast gegn tölvumisupplýsingum, efla alþjóðlegt stafrænt öryggi og samvinnu.

Spurningar sem þarf að íhuga

• Hvaða áhrif hefur tölvuáróður haft á landið þitt?
• Á hvaða hátt verndar þú þig fyrir tölvuáróður þegar þú neytir efnis á netinu?