Perang Algoritmik: Naha robot pembunuh mangrupikeun pameunteu perang modern?

• Author:
• Ngaran pangarang

  Quantumrun tetempoan
• Januari 10, 2023

Nagara-nagara terus nalungtik sistem perang artifisial calakan (AI) sanaos résistansi parantos ningkat dina masarakat sipil ngalawan senjata otonom anu maot. 

Kontéks perang Algorithmic

Mesin ngagunakeun algoritma (sakumpulan parentah matematik) pikeun ngajawab masalah nu meniru kecerdasan manusa. Algoritma perang perang ngalibatkeun ngembangkeun sistem AI-powered nu bisa otonom ngatur pakarang, taktik, komo sakabéh operasi militér. Mesin otonom ngadalikeun sistem pakarang geus muka debat anyar ngeunaan peran mesin otonom kudu maén dina perang jeung implikasi etika na. 

Numutkeun Hukum Kamanusaan Internasional, mesin naon waé (naha nganggo pakarang atanapi henteu nganggo pakarang) kedah ngajalanan ulasan anu ketat sateuacan dianggo, khususna upami aranjeunna dimaksudkeun pikeun ngarugikeun jalma atanapi gedong. Ieu ngalegaan ka sistem AI anu dikembangkeun pikeun ahirna janten diajar mandiri sareng ngabenerkeun diri, anu tiasa nyababkeun mesin-mesin ieu ngagentos sistem pakarang anu dikawasa ku manusa dina operasi militer.

Taun 2017, Google nampi bantahan parah ti para karyawanna nalika kapendak yén perusahaan damel sareng Departemen Pertahanan Amérika Serikat pikeun ngembangkeun sistem pembelajaran mesin pikeun dianggo dina militér. Aktivis prihatin yén nyiptakeun robot militér anu tiasa mekar sacara mandiri tiasa ngalanggar kabébasan sipil atanapi nyababkeun pangakuan target palsu. Pamakéan téknologi pangenal raray dina militér parantos ningkat (saprak 2019) pikeun nyiptakeun pangkalan data teroris sasaran atanapi jalma anu dipikaresep. Kritikus nyatakeun prihatin yén kaputusan anu didorong ku AI tiasa nyababkeun hasil anu cilaka upami campur tangan manusa dikompromi. Tapi, sabagéan ageung anggota PBB langkung milih ngalarang sistem senjata otonom maot (LAWS) kusabab kamungkinan éntitas ieu nakal.

Dampak ngaganggu

Turunna inohong rekrutmen militér anu dialaman ku seueur nagara Kulon - tren anu langkung jero salami 2010s - mangrupikeun faktor konci anu nyumbang kana nyoko solusi militér otomatis. Faktor séjén anu nyababkeun nyoko kana téknologi ieu nyaéta poténsina pikeun nyegerkeun sareng ngajadikeun otomatis operasi medan perang, ngarah kanaékan efisiensi perang sareng nurunkeun biaya operasi. Sababaraha pamangku kapentingan industri militér ogé parantos ngaku yén sistem sareng algoritma militér anu dikawasa ku AI tiasa nurunkeun korban jiwa ku cara nyayogikeun inpormasi sacara real-time sareng akurat anu tiasa ningkatkeun katepatan sistem anu disebarkeun supados aranjeunna nyerang target anu dituju. 

Upami langkung seueur sistem senjata militér anu dikontrol ku AI dipasang di bioskop di sakuliah dunya, langkung seueur tanaga manusa anu tiasa disebarkeun di zona konflik, ngirangan korban militer di bioskop perang. Panyipta senjata anu didorong ku AI tiasa kalebet tindakan pencegahan sapertos switch kill supados sistem ieu tiasa langsung ditumpurkeun upami aya kasalahan.  

Implikasi tina pakarang AI-dikawasa 

Implikasi anu langkung ageung tina senjata otonom anu dikerahkan ku militér di sakuliah dunya tiasa kalebet:

• Senjata otonom dikerahkan di tempat prajurit suku, ngirangan biaya perang sareng korban jiwa prajurit.
• Aplikasi kakuatan militér anu langkung ageung ku nagara-nagara anu dipilih kalayan aksés anu langkung ageung kana aset otonom atanapi mékanis, sabab pangurangan atanapi ngaleungitkeun korban tentara tiasa ngaminimalkeun résistansi publik domestik hiji nagara pikeun ngalaksanakeun perang di nagri asing.
• Paningkatan anggaran pertahanan antara nagara-nagara pikeun kaunggulan AI militér salaku perang anu bakal datang tiasa diputuskeun ku kagancangan-nyieun kaputusan sareng kecanggihan senjata sareng militér anu dikontrol AI ka hareup. 
• Ngaronjatkeun partnership antara manusa jeung mesin, dimana data bakal langsung disadiakeun pikeun prajurit manusa, sahingga aranjeunna pikeun ngaluyukeun taktik perang jeung strategi sacara real waktu.
• Nagara-nagara beuki ngetok sumber daya séktor téknologi swasta pikeun nguatkeun kamampuan pertahanan AI na. 
• Hiji atawa leuwih pajangjian global keur diwanohkeun di PBB ngalarang atawa ngawatesan pamakéan pakarang otonom. Kabijakan sapertos kitu sigana bakal dipaliré ku militér luhur dunya.

Patarosan pikeun mairan

• Naha anjeun pikir perang algoritmik bakal nguntungkeun manusa anu didaptarkeun di militer?
• Naha anjeun yakin yén sistem AI anu dirancang pikeun perang tiasa dipercanten, atanapi kedah dibatesan atanapi dilarang langsung?