Algorithmic warfighting: Ang mga killer robot ba ang bagong mukha ng modernong digmaan?

• May-akda:
• pangalan Author

  Quantumrun Foresight
• Enero 10, 2023

Ang mga bansa ay patuloy na nagsasaliksik ng artificially intelligent (AI) na mga sistema ng pakikidigma kahit na tumaas ang paglaban sa loob ng civil society laban sa nakamamatay at nagsasarili na mga armas. 

Algorithmic warfighting context

Gumagamit ang mga makina ng mga algorithm (isang hanay ng mga tagubiling pangmatematika) upang malutas ang mga problemang gayahin ang katalinuhan ng tao. Kasama sa algorithmic warfighting ang pagbuo ng mga sistemang pinapagana ng AI na maaaring magsasarili sa pamamahala ng mga armas, taktika, at maging ang buong operasyon ng militar. Ang mga makina na awtomatikong kumokontrol sa mga sistema ng armas ay nagbukas ng mga bagong debate tungkol sa papel na dapat gampanan ng mga autonomous na makina sa pakikidigma at ang mga etikal na implikasyon nito. 

Ayon sa International Humanitarian Law, dapat sumailalim sa mahigpit na pagsusuri ang anumang makina (may sandata man o hindi armas) bago i-deploy, lalo na kung nilalayong magdulot ng pinsala sa mga tao o gusali. Umaabot ito sa mga AI system na binuo upang tuluyang maging self-learning at self-correcting, na maaaring humantong sa mga makinang ito na palitan ang mga sistema ng armas na kontrolado ng tao sa mga operasyong militar.

Noong 2017, nakatanggap ang Google ng matinding reaksyon mula sa mga empleyado nito nang matuklasan na nakikipagtulungan ang kumpanya sa Departamento ng Depensa ng Estados Unidos upang bumuo ng mga machine learning system na gagamitin sa militar. Ang mga aktibista ay nag-aalala na ang paglikha ng posibleng umuunlad na mga robot ng militar ay maaaring lumabag sa mga kalayaang sibil o humantong sa maling pagkilala sa target. Ang paggamit ng teknolohiya sa pagkilala sa mukha sa militar ay tumaas (noong 2019 pa) upang lumikha ng database ng mga target na terorista o mga taong interesado. Ang mga kritiko ay nagpahayag ng mga alalahanin na ang AI-driven na paggawa ng desisyon ay maaaring humantong sa mga mapaminsalang resulta kung ang interbensyon ng tao ay nakompromiso. Gayunpaman, karamihan sa mga miyembro ng United Nations ay pinapaboran ang pagbabawal ng lethal autonomous weapons systems (LAWS) dahil sa posibilidad na maging rogue ang mga entity na ito.

Nakakagambalang epekto

Ang bumabagsak na bilang ng mga recruitment ng militar na nararanasan ng maraming bansa sa Kanluran—isang kalakaran na lumalim noong 2010s—ay isang pangunahing salik na nag-aambag sa pag-aampon ng mga awtomatikong solusyong militar. Ang isa pang salik na nagtutulak sa paggamit ng mga teknolohiyang ito ay ang kanilang potensyal na i-streamline at i-automate ang mga operasyon sa larangan ng digmaan, na humahantong sa pagtaas ng kahusayan sa pakikipaglaban sa digmaan at pagbaba ng mga gastos sa pagpapatakbo. Sinasabi rin ng ilang stakeholder ng industriya ng militar na ang mga sistema at algorithm ng militar na kontrolado ng AI ay maaaring magpababa ng mga kaswalti ng tao sa pamamagitan ng pagbibigay ng real-time at tumpak na impormasyon na maaaring magpapataas ng katumpakan ng mga naka-deploy na system upang maabot nila ang kanilang mga nilalayon na target. 

Kung mas maraming sistema ng armas ng militar na kontrolado ng AI ang ipapakalat sa mga sinehan sa buong mundo, mas kaunting tauhan ng tao ang maaaring i-deploy sa mga zone ng labanan, na magpapababa ng mga nasawi sa militar sa mga sinehan ng digmaan. Ang mga gumagawa ng mga armas na hinimok ng AI ay maaaring magsama ng mga countermeasure gaya ng mga kill switch para ma-disable kaagad ang mga system na ito kung may mangyari.  

Mga implikasyon ng mga armas na kinokontrol ng AI 

Ang mas malawak na implikasyon ng mga autonomous na armas na ipinakalat ng mga militar sa buong mundo ay maaaring kabilang ang:

• Autonomous na armas na ipinakalat bilang kapalit ng mga foot soldiers, nagpapababa ng mga gastos sa digmaan at mga sundalong nasawi.
• Ang mas malawak na paggamit ng puwersang militar ng mga piling bansa na may mas malawak na access sa mga autonomous o mekanisadong mga ari-arian, dahil ang pagbabawas o pag-aalis ng mga kaswalti ng tropa ay maaaring mabawasan ang domestic pampublikong pagtutol ng isang bansa sa pakikipagdigma sa mga dayuhang lupain.
• Ang pagdami ng mga badyet sa pagtatanggol sa pagitan ng mga bansa para sa militar na AI supremacy dahil ang mga digmaan sa hinaharap ay maaaring mapagpasyahan ng bilis ng paggawa ng desisyon at pagiging sopistikado ng hinaharap na mga armas at militar na kontrolado ng AI. 
• Ang pagtaas ng partnership sa pagitan ng mga tao at mga makina, kung saan ang data ay agad na ibibigay sa mga sundalo ng tao, na magbibigay-daan sa kanila na ayusin ang mga taktika at diskarte sa labanan sa real time.
• Patuloy na tina-tap ng mga bansa ang mga mapagkukunan ng kanilang mga pribadong sektor ng teknolohiya upang palakasin ang kanilang mga kakayahan sa pagtatanggol ng AI. 
• Isa o higit pang pandaigdigang kasunduan na isinusulong sa United Nations na nagbabawal o naglilimita sa paggamit ng mga autonomous na armas. Ang ganitong mga patakaran ay malamang na hindi papansinin ng mga nangungunang militar sa mundo.

Mga tanong na ikokomento

• Sa palagay mo, makikinabang ba ang algorithmic warfighting sa mga taong naka-enlist sa militar?
• Naniniwala ka ba na ang mga AI system na idinisenyo para sa digmaan ay mapagkakatiwalaan, o dapat ba itong pigilan o ipagbawal nang tahasan?