Algoritemsko bojevanje: Ali so roboti ubijalci nov obraz sodobnega vojskovanja?

• Avtor:
• ime avtorja

  Quantumrun Foresight
• Januar 10, 2023

Države še naprej raziskujejo sisteme vojskovanja z umetno inteligenco (AI), čeprav se je v civilni družbi povečal odpor proti smrtonosnemu, avtonomnemu orožju. 

Algoritemski kontekst bojevanja

Stroji uporabljajo algoritme (nabor matematičnih navodil) za reševanje problemov, ki posnemajo človeško inteligenco. Algoritemsko bojevanje vključuje razvoj sistemov, ki jih poganja AI, ki lahko avtonomno upravljajo orožje, taktike in celo celotne vojaške operacije. Stroji, ki avtonomno nadzorujejo oborožitvene sisteme, so odprli nove razprave o vlogi avtonomnih strojev v vojskovanju in njenih etičnih posledicah. 

V skladu z mednarodnim humanitarnim pravom mora biti vsak stroj (bodisi z orožjem ali brez njega) podvržen strogim pregledom, preden se ga uporabi, zlasti če naj bi povzročil škodo osebam ali zgradbam. To velja tudi za sisteme umetne inteligence, ki se razvijajo tako, da bodo sčasoma postali samoučeči in samopopravljajoči, kar lahko vodi do tega, da bodo ti stroji v vojaških operacijah nadomestili orožne sisteme, ki jih nadzira človek.

Leta 2017 je Google prejel hudo reakcijo svojih zaposlenih, ko je bilo odkrito, da podjetje sodeluje z Ministrstvom za obrambo Združenih držav Amerike pri razvoju sistemov strojnega učenja za uporabo v vojski. Aktivisti so bili zaskrbljeni, da lahko ustvarjanje vojaških robotov, ki se morebiti samorazvijajo, krši državljanske svoboščine ali povzroči lažno prepoznavanje ciljev. Uporaba tehnologije za prepoznavanje obrazov v vojski se je povečala (že leta 2019) za ustvarjanje podatkovne baze ciljnih teroristov ali zanimivih oseb. Kritiki so izrazili zaskrbljenost, da lahko odločanje na podlagi umetne inteligence vodi do katastrofalnih rezultatov, če je ogroženo človeško posredovanje. Vendar pa je večina članic Združenih narodov naklonjena prepovedi smrtonosnih avtonomnih orožnih sistemov (LAWS) zaradi možnosti, da bi ti subjekti postali lopovski.

Moteč vpliv

Številne zahodne države se soočajo z zmanjševanjem števila vojaških rekrutov – trend, ki se je v letih 2010 še poglobil – so ključni dejavnik, ki prispeva k uvajanju avtomatiziranih vojaških rešitev. Drug dejavnik, ki spodbuja sprejetje teh tehnologij, je njihov potencial za racionalizacijo in avtomatizacijo operacij na bojišču, kar vodi do povečane učinkovitosti bojevanja in nižjih operativnih stroškov. Nekatere zainteresirane strani v vojaški industriji so tudi trdile, da lahko vojaški sistemi in algoritmi, ki jih nadzoruje umetna inteligenca, zmanjšajo število človeških žrtev z zagotavljanjem točnih informacij v realnem času, ki lahko povečajo natančnost nameščenih sistemov, tako da zadenejo predvidene cilje. 

Če bo na območjih po vsem svetu nameščenih več vojaških oborožitvenih sistemov, ki jih nadzoruje umetna inteligenca, bo morda na območjih spopadov razporejenih manj ljudi, kar bo zmanjšalo število vojaških žrtev na območjih vojne. Proizvajalci orožja, ki ga poganja umetna inteligenca, lahko vključijo protiukrepe, kot so stikala za izklop, tako da je mogoče te sisteme takoj onemogočiti, če pride do napake.  

Posledice orožja, ki ga upravlja umetna inteligenca 

Širše posledice avtonomnega orožja, ki ga uporabljajo vojske po vsem svetu, lahko vključujejo:

• Avtonomno orožje, ki se uporablja namesto pešcev, kar zmanjšuje stroške vojskovanja in žrtve vojakov.
• Večja uporaba vojaške sile s strani izbranih držav z večjim dostopom do avtonomnih ali mehaniziranih sredstev, saj lahko zmanjšanje ali odprava izgub v četah zmanjša domači javni odpor države do vojne v tujih deželah.
• Stopnjevanje obrambnih proračunov med državami za prevlado vojaške umetne inteligence, saj bodo prihodnje vojne morda odločene s hitrostjo odločanja in sofisticiranostjo prihodnjega orožja in vojske, ki jih nadzoruje umetna inteligenca. 
• Povečanje partnerstva med ljudmi in stroji, kjer bodo podatki nemudoma zagotovljeni človeškim vojakom, kar jim bo omogočilo prilagajanje bojnih taktik in strategij v realnem času.
• Države vse bolj izkoriščajo vire svojih zasebnih tehnoloških sektorjev, da okrepijo svoje obrambne zmogljivosti umetne inteligence. 
• Ena ali več globalnih pogodb, ki se promovirajo v Združenih narodih in prepovedujejo ali omejujejo uporabo avtonomnega orožja. Najvišje svetovne vojske bodo takšne politike verjetno prezrle.

Vprašanja za komentiranje

• Ali menite, da bo algoritemsko bojevanje koristilo ljudem, ki so vpisani v vojsko?
• Ali menite, da je sistemom umetne inteligence, zasnovanim za bojevanje, mogoče zaupati, ali bi jih bilo treba omejiti ali dokončno prepovedati?