Algorithmic warfighting: Ang mga killer robot ba ang bag-ong nawong sa modernong pakiggubat?

• Author:
• Ngalan sa tagsulat

  Quantumrun Foresight
• Enero 10, 2023

Ang mga nasud nagpadayon sa pagpanukiduki sa artificially intelligent (AI) nga mga sistema sa pakiggubat bisan kung ang pagsukol miuswag sulod sa sibil nga katilingban batok sa makamatay, awtonomous nga mga hinagiban. 

Konteksto sa Algorithmic Warfighting

Ang mga makina naggamit ug mga algorithm (usa ka set sa mga instruksiyon sa matematika) aron masulbad ang mga problema nga nagsundog sa salabutan sa tawo. Algorithmic warfighting naglakip sa pagpalambo sa AI-powered nga mga sistema nga awtonomiya sa pagdumala sa mga hinagiban, taktika, ug bisan sa tibuok nga operasyon militar. Ang mga makina nga awtonomiya nga nagkontrol sa mga sistema sa hinagiban nagbukas sa bag-ong mga debate bahin sa papel nga kinahanglan nga dulaon sa mga awtonomiya nga makina sa pakiggubat ug ang mga implikasyon sa pamatasan niini. 

Sumala sa International Humanitarian Law, ang bisan unsang makina (bisan armas o dili hinagiban) kinahanglan nga moagi sa higpit nga pagrepaso sa dili pa i-deploy, labi na kung kini gituyo nga makadaot sa mga tawo o mga bilding. Nagpadayon kini sa mga sistema sa AI nga gipalambo aron sa katapusan mahimong pagkat-on sa kaugalingon ug pagkorihir sa kaugalingon, nga mahimong mosangpot sa kini nga mga makina nga ilisan ang mga sistema sa armas nga kontrolado sa tawo sa mga operasyon sa militar.

Kaniadtong 2017, nakadawat ang Google og grabe nga pagsaway gikan sa mga empleyado niini sa dihang nadiskobrehan nga ang kompanya nagtrabaho kauban ang Departamento sa Depensa sa Estados Unidos aron mapalambo ang mga sistema sa pagkat-on sa makina nga magamit sa militar. Nabalaka ang mga aktibista nga ang pagmugna og posibleng nagbag-o-sa-kaugalingon nga mga robot sa militar mahimong makalapas sa kagawasan sa sibil o mosangpot sa sayop nga pag-ila sa target. Ang paggamit sa teknolohiya sa pag-ila sa nawong sa militar miuswag (sa 2019) aron makahimo og database sa mga target nga terorista o mga tawo nga interesado. Gipahayag sa mga kritiko ang mga kabalaka nga ang paghimog desisyon nga gimaneho sa AI mahimong mosangpot sa makadaot nga mga sangputanan kung ang interbensyon sa tawo makompromiso. Bisan pa, kadaghanan sa mga miyembro sa United Nations mipabor sa pagdili sa lethal autonomous weapons systems (LAWS) tungod sa posibilidad nga kini nga mga entidad mahimong daotan.

Makasamok nga epekto

Ang pagkahulog sa mga numero sa pagrekrut sa militar nga nasinati sa daghang mga nasud sa Kasadpan-usa ka uso nga nagkalalom sa panahon sa 2010s-usa ka hinungdanon nga hinungdan nga nakatampo sa pagsagop sa mga awtomatikong solusyon sa militar. Ang usa pa nga hinungdan nga nagduso sa pagsagop sa kini nga mga teknolohiya mao ang ilang potensyal sa pag-streamline ug pag-automate sa mga operasyon sa natad sa panggubatan, nga nagdala sa pagtaas sa mga episyente sa pakiggubat ug pagpaubos sa gasto sa operasyon. Ang ubang mga hingtungdan sa industriya sa militar nag-angkon usab nga ang mga sistema sa militar nga kontrolado sa AI ug mga algorithm makapaubos sa mga kaswalti sa tawo pinaagi sa paghatag og tinuod nga panahon ug tukma nga impormasyon nga makadugang sa pagkatukma sa mga gipakatap nga sistema aron sila makaigo sa ilang gituyo nga mga target. 

Kung daghang mga sistema sa armas sa militar nga kontrolado sa AI ang ipakatap sa mga sinehan sa tibuuk kalibutan, mas gamay nga mga personahe sa tawo ang mahimong ma-deploy sa mga sona sa panagbangi, nga magpaubos sa mga kaswalti sa militar sa mga sinehan sa gubat. Ang mga naghimo sa AI-driven nga mga hinagiban mahimong maglakip sa mga countermeasures sama sa kill switch aron kini nga mga sistema mahimong ma-disable dayon kung adunay mahitabo nga sayup.  

Mga implikasyon sa mga armas nga kontrolado sa AI 

Ang mas lapad nga mga implikasyon sa autonomous nga mga hinagiban nga gipakatap sa mga militar sa tibuok kalibutan mahimong maglakip sa:

• Autonomous nga hinagiban nga gipakatap puli sa mga sundalo nga nagbaktas, nagpamenos sa gasto sa pakiggubat ug mga kaswalti sa sundalo.
• Ang mas dako nga paggamit sa pwersa militar sa pinili nga mga nasud nga adunay mas dako nga access sa autonomous o mekanisado nga mga kabtangan, tungod kay ang pagkunhod o pagwagtang sa mga kaswalti sa tropa makapamenos sa lokal nga pagbatok sa publiko sa nasud sa pagpakiggubat sa langyaw nga mga yuta.
• Ang pag-usbaw sa mga badyet sa depensa tali sa mga nasud alang sa militar nga AI supremacy ingon nga umaabot nga mga gubat mahimong madesisyonan pinaagi sa katulin sa paghimo og desisyon ug pagkakomplikado sa umaabot nga mga hinagiban ug militar nga kontrolado sa AI. 
• Ang pagdugang sa panagtambayayong tali sa mga tawo ug mga makina, diin ang datos ihatag dayon sa mga sundalo sa tawo, nga magtugot kanila sa pag-adjust sa mga taktika ug estratehiya sa gubat sa tinuod nga panahon.
• Ang mga nasud labi nga nag-tap sa mga kapanguhaan sa ilang mga pribadong sektor sa teknolohiya aron mapalig-on ang ilang mga kapabilidad sa depensa sa AI. 
• Usa o labaw pa nga mga kasabutan sa kalibutan nga gipasiugda sa United Nations nga nagdili o naglimite sa paggamit sa mga awtonomous nga hinagiban. Ang ingon nga mga palisiya lagmit dili tagdon sa mga nanguna nga militar sa kalibutan.

Mga pangutana nga ikomento

• Sa imong hunahuna ang algorithmic warfighting ba makabenepisyo sa mga tawo nga nalista sa militar?
• Nagtuo ka ba nga ang mga sistema sa AI nga gidisenyo alang sa pakiggubat mahimong kasaligan, o kinahanglan ba nga pugngan o gidili kini?