Perang Algoritma: Apa robot pembunuh minangka pasuryan anyar perang modern?

• Babagan Author:
• Jeneng panganggit

  Quantumrun Foresight
• Januari 10, 2023

Negara-negara terus neliti sistem perang artificially intelligent (AI) sanajan resistensi saya tambah akeh ing masyarakat sipil nglawan senjata otonom sing mateni. 

Konteks perang Algoritma

Mesin nggunakake algoritma (sakumpulan instruksi matematika) kanggo ngatasi masalah sing niru intelijen manungsa. Perang Algoritma kalebu pangembangan sistem bertenaga AI sing bisa ngatur senjata, taktik, lan malah kabeh operasi militer kanthi otonom. Mesin sing ngontrol sistem senjata kanthi otonom wis mbukak debat anyar babagan peran mesin otonom sing kudu dimainake ing perang lan implikasi etika. 

Miturut Hukum Kemanusiaan Internasional, mesin apa wae (apa wae sing nganggo gegaman utawa ora nganggo gegaman) kudu ditinjau kanthi ketat sadurunge disebarake, utamane yen bisa nyebabake cilaka kanggo wong utawa bangunan. Iki ngluwihi sistem AI sing dikembangake nganti pungkasane dadi sinau lan mbenerake awake dhewe, sing bisa nyebabake mesin kasebut ngganti sistem senjata sing dikontrol manungsa ing operasi militer.

Ing taun 2017, Google nampa reaksi keras saka karyawan nalika ditemokake manawa perusahaan kasebut kerja sama karo Departemen Pertahanan Amerika Serikat kanggo ngembangake sistem pembelajaran mesin sing bakal digunakake ing militer. Para aktivis kuwatir yen nggawe robot militer sing bisa berkembang dhewe bisa nglanggar kabebasan sipil utawa nyebabake pangenalan target palsu. Panggunaan teknologi pangenalan rai ing militer saya tambah (ing awal 2019) kanggo nggawe database teroris sing ditargetake utawa wong sing dikarepake. Kritikus nyatakake keprihatinan yen pengambilan keputusan sing didorong AI bisa nyebabake asil sing mbebayani yen intervensi manungsa dikompromi. Nanging, umume anggota Perserikatan Bangsa-Bangsa seneng nglarang sistem senjata otonomi sing bisa mateni (LAWS) amarga kemungkinan entitas kasebut dadi nakal.

Dampak gangguan

Mudhun tokoh rekrutmen militèr sing dialami dening akèh negara Kulon-tren sing deepened sak 2010s-minangka faktor kunci contributing kanggo Adoption saka solusi militer otomatis. Faktor liya sing nyurung adopsi teknologi kasebut yaiku potensial kanggo nyepetake lan ngotomatisasi operasi medan perang, sing nyebabake efisiensi perang lan biaya operasi sing luwih murah. Sawetara pemangku kepentingan industri militer uga ujar manawa sistem lan algoritma militer sing dikontrol AI bisa nyuda korban manungsa kanthi menehi informasi wektu nyata lan akurat sing bisa nambah akurasi sistem sing disebarake supaya bisa nyerang target sing dituju. 

Yen luwih akeh sistem senjata militer sing dikontrol AI disebarake ing teater ing saindenging jagad, luwih sithik personel manungsa bisa ditugasake ing zona konflik, nyuda korban militer ing bioskop perang. Produsen senjata sing didorong AI bisa uga kalebu langkah-langkah pencegahan kayata switch mateni supaya sistem kasebut bisa langsung dipateni yen ana kesalahan.  

Implikasi senjata sing dikontrol AI 

Implikasi sing luwih akeh saka senjata otonom sing disebarake dening militer ing saindenging jagad bisa uga kalebu:

• Senjata otonomi dipasang ing panggonan prajurit mlaku, nyuda biaya perang lan korban prajurit.
• Aplikasi pasukan militer sing luwih gedhe dening negara-negara sing dipilih kanthi akses luwih akeh menyang aset otonom utawa mekanis, amarga nyuda utawa ngilangi korban tentara bisa nyuda resistensi publik domestik negara kanggo perang ing negara manca.
• Eskalasi anggaran pertahanan antarane negara kanggo supremasi AI militer amarga perang ing mangsa ngarep bisa diputusake kanthi kacepetan nggawe keputusan lan kecanggihan senjata lan militer sing dikontrol AI ing mangsa ngarep. 
• Nambah kemitraan antarane manungsa lan mesin, ing ngendi data bakal langsung diwenehake marang prajurit manungsa, supaya bisa nyetel taktik lan strategi perang ing wektu nyata.
• Negara-negara tambah akeh nutul sumber daya saka sektor teknologi pribadi kanggo nguatake kemampuan pertahanan AI. 
• Siji utawa luwih perjanjian global dipromosekake ing Perserikatan Bangsa-Bangsa nglarang utawa matesi panggunaan senjata otonom. Kawicaksanan kasebut bakal diabaikan dening militer paling dhuwur ing donya.

Pitakonan kanggo komentar

• Apa sampeyan mikir perang algoritma bakal entuk manfaat kanggo manungsa sing mlebu militer?
• Apa sampeyan yakin yen sistem AI sing dirancang kanggo perang bisa dipercaya, utawa kudu dibatasi utawa dilarang langsung?