Algóritmísk stríðsátök: Eru morðingjavélmenni hið nýja andlit nútíma hernaðar?

• Höfundur:
• Höfundur nafn

  Quantumrun Foresight
• 10. Janúar, 2023

Lönd halda áfram að rannsaka gervigreind (AI) hernaðarkerfi þrátt fyrir að mótstaða hafi aukist innan borgaralegs samfélags gegn banvænum, sjálfstæðum vopnum. 

Algorithmic stríðssamhengi

Vélar nota reiknirit (sett af stærðfræðilegum leiðbeiningum) til að leysa vandamál sem líkja eftir mannlegri greind. Algóritmísk stríðsbarátta felur í sér þróun gervigreindarkerfa sem geta sjálfstætt stjórnað vopnum, aðferðum og jafnvel heilum hernaðaraðgerðum. Vélar sem stjórna sjálfvirkum vopnakerfum hafa opnað nýjar umræður um hlutverk sjálfvirkra véla í hernaði og siðferðileg áhrif þess. 

Samkvæmt alþjóðlegum mannúðarlögum ættu allar vélar (hvort sem þær eru vopnaðar eða án vopna) að gangast undir stranga endurskoðun áður en þær eru settar á vettvang, sérstaklega ef þær eru ætlaðar til að valda fólki eða byggingum skaða. Þetta nær til gervigreindarkerfa sem verið er að þróa til að verða að lokum sjálfsnám og sjálfleiðrétting, sem getur leitt til þess að þessar vélar komi í stað mannastýrðra vopna í hernaðaraðgerðum.

Árið 2017 fékk Google alvarlegt bakslag frá starfsmönnum sínum þegar í ljós kom að fyrirtækið var að vinna með bandaríska varnarmálaráðuneytinu að því að þróa vélanámskerfi til að nota í hernum. Aðgerðarsinnar höfðu áhyggjur af því að búa til hervélmenni sem hugsanlega þróast sjálfir geti brotið gegn borgaralegum réttindum eða leitt til falskrar viðurkenningar á skotmörkum. Notkun andlitsþekkingartækni í hernum hefur aukist (snemma sem 2019) til að búa til gagnagrunn yfir hryðjuverkamenn eða áhugasama einstaklinga. Gagnrýnendur hafa lýst yfir áhyggjum af því að ákvarðanataka sem knúin er gervigreind geti leitt til hörmulegra afleiðinga ef mannleg afskipti eru í hættu. Hins vegar eru flestir meðlimir Sameinuðu þjóðanna hlynntir því að bannað sé að banvæna sjálfstætt vopnakerfi (LAWS) vegna möguleika þessara aðila til að verða fantur.

Truflandi áhrif

Lækkandi tölur um nýliðun hersins sem margar vestrænar þjóðir upplifa - þróun sem dýpkaði á 2010 - er lykilþáttur sem stuðlar að upptöku sjálfvirkra hernaðarlausna. Annar þáttur sem stýrir upptöku þessarar tækni er möguleiki þeirra til að hagræða og gera sjálfvirkan vígvallarrekstur, sem leiðir til aukinnar hernaðarhagkvæmni og lægri rekstrarkostnaðar. Sumir hagsmunaaðilar hernaðariðnaðarins hafa einnig haldið því fram að gervigreindarstýrð herkerfi og reiknirit geti dregið úr mannfalli með því að veita rauntíma og nákvæmar upplýsingar sem geta aukið nákvæmni útfærðra kerfa svo þau nái áætluðum skotmörkum. 

Ef fleiri gervigreindarstýrð hervopnakerfi eru sett upp í kvikmyndahúsum um allan heim, gætu færri mannlegir starfsmenn verið sendir á átakasvæðum, sem lækkar mannfall hersins í stríðsleikhúsum. Framleiðendur gervigreindarknúinna vopna geta falið í sér mótvægisaðgerðir eins og dreifingarrofa svo hægt sé að slökkva á þessum kerfum strax ef villa kemur upp.  

Afleiðingar gervigreindarstýrðra vopna 

Víðtækari afleiðingar þess að sjálfstæð vopn eru beitt af herum um allan heim geta verið:

• Sjálfstætt vopn er beitt í stað fótgangandi hermanna, sem dregur úr hernaðarkostnaði og mannfalli hermanna.
• Meiri beiting hervalds af völdum ríkjum með meiri aðgang að sjálfráðum eða vélvæddum eignum, þar sem fækkun eða útrýming mannfalls hermanna getur lágmarkað andstöðu almennings innanlands gegn því að heyja stríð í erlendum löndum.
• Aukning á varnarfjárveitingum milli þjóða fyrir yfirburði hernaðarlegs gervigreindar þar sem framtíðarstríð kann að ráðast af hraða ákvarðanatöku og fágun framtíðar vopna og hers sem stjórnað er með gervigreind. 
• Aukið samstarf milli manna og véla, þar sem gögn verða þegar í stað veitt mannlegum hermönnum, sem gerir þeim kleift að aðlaga bardagaaðferðir og aðferðir í rauntíma.
• Lönd nýta í auknum mæli auðlindir einkarekinna tæknigeira sinna til að styrkja gervigreindarvarnargetu sína. 
• Einn eða fleiri alþjóðlegir sáttmálar eru kynntir á vettvangi Sameinuðu þjóðanna sem banna eða takmarka notkun sjálfstæðra vopna. Slík stefna verður líklega hunsuð af æðstu herum heims.

Spurningar til að tjá sig um

• Heldurðu að reiknirit stríðsbardaga muni gagnast mönnum sem eru skráðir í herinn?
• Telur þú að hægt sé að treysta gervigreindarkerfi sem eru hönnuð fyrir hernað, eða ætti að takmarka þau eða banna þau algjörlega?