Algorithmic warfighting: Puas yog killer robots lub ntsej muag tshiab ntawm kev ua tsov rog niaj hnub no?

• Author:
• Tus sau lub npe

  Quantumrun Foresight
• Lub ib hlis ntuj 10, 2023

Lub teb chaws txuas ntxiv tshawb fawb txog kev txawj ntse (AI) kev ua tsov rog txawm tias muaj kev tawm tsam tau nce ntxiv hauv pej xeem zej zog tiv thaiv kev tuag, riam phom muaj zog. 

Algorithmic warfighting ntsiab lus

Cov tshuab siv algorithms (cov lus qhia ua lej) los daws cov teeb meem uas ua rau tib neeg kev txawj ntse. Kev sib ntaus sib tua algorithmic cuam tshuam nrog kev txhim kho AI-powered systems uas tuaj yeem tswj hwm riam phom, kev tawm tsam, thiab txawm tias tag nrho kev ua tub rog. Cov tshuab tswj hwm kev tswj hwm cov cuab yeej siv riam phom tau qhib kev sib cav tshiab txog lub luag haujlwm ntawm kev tswj hwm lub tshuab yuav tsum ua si hauv kev ua tsov rog thiab nws qhov kev coj ncaj ncees. 

Raws li International Humanitarian Law, txhua lub tshuab (txawm yog riam phom lossis tsis muaj riam phom) yuav tsum tau soj ntsuam nruj ua ntej yuav raug xa mus, tshwj xeeb tshaj yog tias lawv raug tsim txom rau tib neeg lossis lub tsev. Qhov no txuas mus rau AI cov tshuab tau tsim los kom nws thiaj li dhau los ua tus kheej kawm thiab kho tus kheej, uas yuav ua rau cov tshuab no hloov cov cuab yeej tswj hwm tib neeg hauv kev ua tub rog.

Xyoo 2017, Google tau txais kev cuam tshuam loj heev los ntawm nws cov neeg ua haujlwm thaum nws pom tias lub tuam txhab tau ua haujlwm nrog Tebchaws Meskas Lub Tsev Haujlwm Saib Xyuas Kev Tiv Thaiv los tsim cov tshuab kev kawm los siv rau hauv tub rog. Cov neeg tawm tsam tau txhawj xeeb tias kev tsim cov tub rog tuaj yeem hloov kho nws tus kheej tuaj yeem ua txhaum kev ywj pheej ntawm pej xeem lossis ua rau muaj kev lees paub tsis tseeb. Kev siv thev naus laus zis ntawm lub ntsej muag hauv cov tub rog tau nce ntxiv (thaum ntxov li 2019) los tsim cov ntaub ntawv ntawm cov neeg phem lossis cov neeg nyiam. Cov neeg thuam tau hais txog kev txhawj xeeb tias AI-tsav kev txiav txim siab tuaj yeem ua rau muaj kev puas tsuaj loj yog tias kev cuam tshuam tib neeg raug cuam tshuam. Txawm li cas los xij, feem ntau cov tswvcuab hauv tebchaws United Nations pom zoo txwv tsis pub siv riam phom tua kabmob (LAWS) vim tias muaj peev xwm ua rau cov koom haum no mus ua phem.

Kev cuam tshuam

Cov neeg ua tub rog poob qis tau ntsib los ntawm ntau lub tebchaws sab hnub poob - ib qho kev sib sib zog nqus thaum lub sijhawm xyoo 2010 - yog ib qho tseem ceeb uas ua rau muaj kev coj noj coj ua ntawm kev siv tub rog. Lwm qhov tseem ceeb uas ua rau kev siv cov thev naus laus zis no yog lawv lub peev xwm los ua kom yooj yim thiab ua haujlwm hauv kev sib ntaus sib tua, ua rau muaj kev sib ntaus sib tua kom muaj txiaj ntsig thiab txo cov nqi khiav lag luam. Qee cov neeg koom nrog kev lag luam tub rog kuj tau thov tias AI-tswj tub rog cov tshuab thiab cov txheej txheem tuaj yeem txo qis tib neeg kev raug mob los ntawm kev muab cov ntaub ntawv tiag tiag thiab cov ntaub ntawv raug uas tuaj yeem ua rau muaj qhov tseeb ntawm kev siv tshuab kom lawv tawm tsam lawv lub hom phiaj. 

Yog tias ntau dua AI-tswj tub rog cov cuab yeej siv riam phom raug xa mus rau hauv cov chaw ua yeeb yam thoob ntiaj teb, tsawg dua tib neeg cov neeg ua haujlwm yuav raug xa mus rau hauv thaj chaw tsis sib haum xeeb, txo cov tub rog raug mob hauv kev ua yeeb yam ntawm kev ua tsov ua rog. Cov neeg tsim khoom ntawm AI-tsav riam phom tuaj yeem suav nrog kev tawm tsam xws li tua cov hloov pauv kom cov tshuab no tuaj yeem ua tsis tau sai yog tias muaj qhov yuam kev.  

Kev cuam tshuam ntawm AI-tswj riam phom 

Kev cuam tshuam dav dav ntawm kev siv riam phom uas siv tau los ntawm cov tub rog thoob ntiaj teb tuaj yeem suav nrog:

• Autonomous riam phom raug xa mus rau qhov chaw ntawm cov tub rog ko taw, txo cov nqi ua tsov rog thiab cov tub rog raug mob.
• Kev siv tub rog ntau dua los ntawm cov tebchaws xaiv uas muaj kev nkag mus rau kev tswj hwm tus kheej lossis cov cuab yeej cuab tam ntau dua, txij li kev txo lossis tshem tawm cov tub rog raug mob tuaj yeem txo qis hauv lub teb chaws cov pej xeem tsis kam ua tsov rog nyob txawv teb chaws.
• Kev nce ntxiv ntawm kev tiv thaiv pob nyiaj siv nruab nrab ntawm cov teb chaws rau kev ua tub rog AI zoo tshaj plaws vim kev ua tsov rog yav tom ntej yuav raug txiav txim siab los ntawm kev txiav txim siab ceev thiab sophistication ntawm yav tom ntej AI-tswj riam phom thiab tub rog. 
• Txhim kho kev sib koom tes ntawm tib neeg thiab tshuab, qhov twg cov ntaub ntawv yuav muab tam sim ntawd rau tib neeg cov tub rog, tso cai rau lawv los kho cov kev sib ntaus sib tua thiab cov tswv yim hauv lub sijhawm.
• Lub teb chaws nce tapping cov peev txheej ntawm lawv cov kev lag luam ntiag tug los txhawb lawv lub peev xwm tiv thaiv AI. 
• Ib lossis ntau daim ntawv cog lus thoob ntiaj teb tau txhawb nqa hauv United Nations txwv lossis txwv kev siv riam phom uas muaj cai. Cov kev cai zoo li no yuav tsis quav ntsej los ntawm cov tub rog hauv ntiaj teb.

Cov lus nug los tawm tswv yim

• Koj puas xav tias kev sib ntaus sib tua algorithmic yuav muaj txiaj ntsig rau tib neeg hauv kev ua tub rog?
• Koj puas ntseeg tias AI systems tsim los rau kev ua tsov rog tuaj yeem ntseeg tau, lossis lawv yuav tsum raug txwv lossis txwv tsis pub tawm?