Algoritamsko ratovanje: Da li su roboti ubice novo lice modernog ratovanja?

• Autor:
• Ime autora

  Quantumrun Foresight
• Januar 10, 2023

Zemlje nastavljaju da istražuju veštačke inteligentne (AI) sisteme za ratovanje iako se u civilnom društvu povećao otpor protiv smrtonosnog, autonomnog oružja. 

Algoritamski kontekst ratovanja

Mašine koriste algoritme (skup matematičkih instrukcija) za rješavanje problema koji oponašaju ljudsku inteligenciju. Algoritamsko ratovanje uključuje razvoj sistema pokretanih umjetnom inteligencijom koji mogu autonomno upravljati oružjem, taktikom, pa čak i cijelim vojnim operacijama. Mašine koje autonomno kontrolišu sisteme oružja otvorile su nove debate u vezi sa ulogom koju autonomne mašine treba da imaju u ratu i njegovim etičkim implikacijama. 

Prema međunarodnom humanitarnom pravu, svaka mašina (bilo naoružana ili neoružana) treba da prođe stroge preglede prije nego što bude raspoređena, posebno ako je namijenjena da nanese štetu osobama ili zgradama. Ovo se proteže na sisteme veštačke inteligencije koji se razvijaju da bi na kraju postali samoučeći i samoispravljajući, što može dovesti do toga da ove mašine zamene sisteme naoružanja koje kontroliše ljudi u vojnim operacijama.

Godine 2017. Google je dobio žestoku reakciju svojih zaposlenika kada je otkriveno da kompanija radi sa Ministarstvom odbrane Sjedinjenih Država na razvoju sistema za mašinsko učenje koji će se koristiti u vojsci. Aktivisti su bili zabrinuti da stvaranje vojnih robota koji se mogu sami razvijati može narušiti građanske slobode ili dovesti do lažnog prepoznavanja meta. Upotreba tehnologije prepoznavanja lica u vojsci se povećala (već 2019.) kako bi se stvorila baza podataka o ciljanim teroristima ili osobama od interesa. Kritičari su izrazili zabrinutost da donošenje odluka vođeno umjetnom inteligencijom može dovesti do katastrofalnih rezultata ako je ljudska intervencija ugrožena. Međutim, većina članica Ujedinjenih nacija se zalaže za zabranu smrtonosnih autonomnih sistema naoružanja (LAWS) zbog mogućnosti da ovi entiteti postanu lažni.

Ometajući uticaj

Smanjenje broja vojnih regrutacija koje doživljavaju mnoge zapadne zemlje – trend koji se produbio tokom 2010-ih – ključni je faktor koji doprinosi usvajanju automatiziranih vojnih rješenja. Još jedan faktor koji pokreće usvajanje ovih tehnologija je njihov potencijal da pojednostave i automatizuju operacije na bojnom polju, što dovodi do povećane efikasnosti u borbi i nižih operativnih troškova. Neki dionici vojne industrije također su tvrdili da vojni sistemi i algoritmi kontrolirani umjetnom inteligencijom mogu smanjiti ljudske žrtve pružanjem tačnih informacija u realnom vremenu koje mogu povećati preciznost raspoređenih sistema kako bi pogodili svoje predviđene ciljeve. 

Ako se više sistema vojnog naoružanja kontroliranih umjetnom inteligencijom razmjesti u pozorištima širom svijeta, manje ljudskog osoblja može biti raspoređeno u zonama sukoba, smanjujući vojne žrtve u poprištima rata. Proizvođači oružja vođenog umjetnom inteligencijom mogu uključiti protumjere kao što su prekidači za zaustavljanje, tako da se ovi sistemi mogu odmah onemogućiti ako dođe do greške.  

Implikacije oružja koje kontrolira umjetna inteligencija 

Šire implikacije autonomnog oružja koje koriste vojske širom svijeta mogu uključivati:

• Autonomno oružje se postavlja umjesto pješaka, smanjujući troškove ratovanja i žrtve vojnika.
• Veća primjena vojne sile od strane odabranih nacija s većim pristupom autonomnim ili mehaniziranim sredstvima, budući da smanjenje ili eliminacija vojnih žrtava može minimizirati domaći javni otpor zemlje vođenju rata u stranim zemljama.
• Eskalacija budžeta za odbranu između nacija za vojnu nadmoć AI u budućim ratovima može biti odlučena brzinom donošenja odluka i sofisticiranošću budućeg oružja i vojske pod kontrolom umjetne inteligencije. 
• Povećanje partnerstva između ljudi i mašina, gdje će podaci biti odmah dostavljeni ljudskim vojnicima, omogućavajući im da prilagode taktike i strategije borbe u realnom vremenu.
• Zemlje sve više koriste resurse svojih privatnih tehnoloških sektora kako bi ojačale svoje odbrambene sposobnosti umjetne inteligencije. 
• Jedan ili više globalnih ugovora koji se promovišu u Ujedinjenim narodima koji zabranjuju ili ograničavaju upotrebu autonomnog oružja. Takvu politiku će vjerovatno ignorirati vrh svjetske vojske.

Pitanja za komentar

• Mislite li da će algoritamsko ratovanje koristiti ljudima koji su u vojsci?
• Vjerujete li da se AI sistemima dizajniranim za ratovanje može vjerovati, ili ih treba potpuno ograničiti ili zabraniti?