Gerra algoritmikoa: robot hiltzaileak gerra modernoaren aurpegi berria al dira?

• Egilea:
• Egilearen izena

  Quantumrun Prospektiba
• Urtarrilaren 10, 2023

Herrialdeek artifizialki adimendunen (AI) gerra-sistemak ikertzen jarraitzen dute, nahiz eta gizarte zibilaren barnean arma hilgarri eta autonomoen aurkako erresistentzia areagotu den. 

Borroka algoritmikoko testuingurua

Makinek algoritmoak (argibide matematikoen multzoa) erabiltzen dituzte giza adimena imitatzen duten problemak ebazteko. Gerra algoritmikoak armak, taktikak eta operazio militar osoak modu autonomoan kudeatu ditzaketen AI bidezko sistemak garatzea dakar. Arma-sistemak modu autonomoan kontrolatzen dituzten makinek eztabaida berriak ireki dituzte makina autonomoek gerran izan behar duten paperari eta horren ondorio etikoei buruz. 

Nazioarteko Zuzenbide Humanitarioaren arabera, edozein makina (armadun zein armarik gabeko) azterketa zorrotzak egin beharko lituzke zabaldu aurretik, bereziki pertsonei edo eraikinei kalteak eragin nahi badituzte. Hau garatzen ari diren AI sistemetara hedatzen da azkenean autoikaskuntza eta autozuzenketa bihurtzeko, eta horrek makina horiek gizakiak kontrolatutako arma sistemak ordezkatu ditzakete operazio militarretan.

2017an, Google-k bere langileen erreakzio gogorra jaso zuen konpainiak Estatu Batuetako Defentsa Departamentuarekin lanean ari zela jakin zenean militarretan erabiltzeko makina ikasteko sistemak garatzeko. Aktibistak kezkatuta zeuden, agian autoeboluzionatzen duten robot militarrak sortzeak askatasun zibilak urratu edo helburu faltsuak aitortzea ekar dezakeelako. Militarretan aurpegia ezagutzeko teknologiaren erabilera areagotu egin da (2019an) xede diren terroristen edo interesdunen datu-base bat sortzeko. Kritikoek kezka agertu dute AI-k bultzatutako erabakiak hartzeak emaitza negargarriak ekar ditzakeelako gizakiaren esku-hartzea arriskuan jartzen bada. Hala ere, Nazio Batuen Erakundeko kide gehienek arma autonomoen sistema hilgarriak (LEGEAK) debekatzearen alde daude, entitate horiek maltzurrak izateko aukera dutelako.

Eragin disruptiboa

Mendebaldeko nazio askotan jasaten ari diren erreklutamendu militarren zifrak (2010eko hamarkadan sakondu zen joera) funtsezko faktoreak dira soluzio militar automatizatuak hartzen laguntzen. Teknologia hauen adopzioa bultzatzen duen beste faktore bat gudu-eremuko eragiketak arintzeko eta automatizatzeko duten potentziala da, gerra-efizientzia areagotzea eta operazio-kostuak murriztea. Industria militarreko eragile batzuek ere esan dute AI-k kontrolatutako sistema militar eta algoritmoek giza biktimak murriztu ditzaketela denbora errealean eta informazio zehatza eskainiz, hedatutako sistemen zehaztasuna areagotu dezaketen helburuak lortzeko. 

Mundu osoko antzokietan AI-k kontrolatutako arma-sistema militar gehiago zabaltzen badira, gatazka-eremuetan giza langile gutxiago hedatuko dira, gerra-antzokietan hildako militarrak murriztuz. AI bultzatutako armen egileek kontraneurriak sar ditzakete, hala nola, hiltzeko etengailuak, sistema horiek berehala desgaitu daitezen akatsen bat gertatzen bada.  

AI kontrolatutako armen inplikazioak 

Mundu osoan militarrak zabaltzen ari diren arma autonomoen ondorio zabalagoak izan daitezke:

• Oinetako soldaduen ordez arma autonomoa zabaltzen ari da, gerra kostuak eta soldaduen biktimak murriztuz.
• Aktibo autonomoetarako edo mekanizatuetarako sarbide handiagoa duten nazio hautatuek indar militarraren aplikazio handiagoa izateak, tropen biktimak murrizteak edo ezabatzeak herrialde baten barne-erresistentzia publikoa gutxitu dezake atzerriko lurretan gerra egiteko.
• AI militarraren nagusitasunerako nazioen arteko defentsa-aurrekontuen areagotzea etorkizuneko gerren heinean erabakiak hartzeko abiadura eta etorkizuneko AI kontrolatutako armen eta ejerzitoen sofistikazioaren arabera erabaki daiteke. 
• Gizakien eta makinen arteko lankidetza areagotzea, non datuak berehala emango zaizkien giza soldaduei, borroka taktikak eta estrategiak denbora errealean doitzeko aukera emanez.
• Herrialdeek gero eta gehiago erabiltzen dituzte beren teknologia-sektore pribatuen baliabideak beren AI defentsa-gaitasunak indartzeko. 
• Nazio Batuen Erakundean sustatzen ari diren itun global bat edo gehiago, arma autonomoen erabilera debekatu edo mugatzen dutenak. Politika horiek munduko armada gorenek aintzat hartuko dituzte.

Iruzkintzeko galderak

• Gerra algoritmikoak soldadutzan sartutako gizakiei mesede egingo diela uste duzu?
• Uste duzu gerrarako diseinatutako AI sistemak fida daitezkeela, edo erabat murriztu edo debekatu egin behar dira?