Algoritmický boj: Sú zabijaci roboti novou tvárou moderného boja?

• Autor:
• meno autora

  Predvídavosť Quantumrun
• Januára 10, 2023

Krajiny pokračujú vo výskume umelo inteligentných (AI) bojových systémov, aj keď v rámci občianskej spoločnosti vzrástol odpor voči smrtiacim autonómnym zbraniam. 

Algoritmický bojový kontext

Stroje používajú algoritmy (súbor matematických inštrukcií) na riešenie problémov, ktoré napodobňujú ľudskú inteligenciu. Algoritmický boj zahŕňa vývoj systémov poháňaných AI, ktoré dokážu autonómne riadiť zbrane, taktiku a dokonca aj celé vojenské operácie. Stroje autonómne ovládajúce zbraňové systémy otvorili nové diskusie o úlohe, ktorú by autonómne stroje mali hrať vo vojne, a o jej etických dôsledkoch. 

Podľa medzinárodného humanitárneho práva by každý stroj (či už vybavený alebo bez zbraní) mal pred nasadením prejsť prísnymi kontrolami, najmä ak majú spôsobiť poškodenie osôb alebo budov. To sa vzťahuje aj na systémy AI, ktoré sa vyvíjajú, aby sa nakoniec stali samoučiacimi sa a samoopravujúcimi, čo môže viesť k tomu, že tieto stroje nahradia zbraňové systémy riadené ľuďmi vo vojenských operáciách.

V roku 2017 dostal Google od svojich zamestnancov silný odpor, keď sa zistilo, že spoločnosť spolupracuje s Ministerstvom obrany Spojených štátov amerických na vývoji systémov strojového učenia, ktoré sa budú používať v armáde. Aktivisti sa obávali, že vytváranie prípadne samostatne sa vyvíjajúcich vojenských robotov môže porušovať občianske slobody alebo viesť k falošnému rozpoznaniu cieľa. Používanie technológie rozpoznávania tváre v armáde sa zvýšilo (už v roku 2019) na vytvorenie databázy cielených teroristov alebo záujmových osôb. Kritici vyjadrili obavy, že rozhodovanie riadené umelou inteligenciou môže viesť ku katastrofálnym výsledkom, ak dôjde k ohrozeniu ľudského zásahu. Väčšina členov Organizácie Spojených národov však uprednostňuje zákaz smrtiacich autonómnych zbraňových systémov (LAWS) kvôli možnosti, že tieto subjekty budú nečestné.

Rušivý vplyv

Klesajúce počty vojenských náborov, s ktorými sa stretávajú mnohé západné krajiny – trend, ktorý sa prehĺbil počas roku 2010 – sú kľúčovým faktorom, ktorý prispieva k prijatiu automatizovaných vojenských riešení. Ďalším faktorom, ktorý vedie k prijatiu týchto technológií, je ich potenciál zefektívniť a automatizovať operácie na bojisku, čo vedie k zvýšeniu efektívnosti boja a nižším prevádzkovým nákladom. Niektoré zainteresované strany vojenského priemyslu tiež tvrdili, že vojenské systémy a algoritmy riadené AI môžu znížiť ľudské obete poskytovaním presných informácií v reálnom čase, ktoré môžu zvýšiť presnosť nasadených systémov, aby zasiahli zamýšľané ciele. 

Ak sa v divadlách po celom svete rozmiestni viac vojenských zbraňových systémov riadených AI, v konfliktných zónach môže byť nasadených menej ľudského personálu, čím sa zníži počet vojenských obetí na miestach vojny. Výrobcovia zbraní poháňaných umelou inteligenciou môžu zahrnúť protiopatrenia, ako sú spínače zabíjania, aby bolo možné tieto systémy okamžite deaktivovať, ak sa vyskytne chyba.  

Dôsledky zbraní riadených AI 

Širšie dôsledky autonómnych zbraní nasadzovaných armádami na celom svete môžu zahŕňať:

• Autonómne zbrane sú rozmiestnené namiesto peších vojakov, čím sa znižujú náklady na vojnu a straty vojakov.
• Väčšie používanie vojenskej sily vybranými krajinami s väčším prístupom k autonómnym alebo mechanizovaným prostriedkom, pretože zníženie alebo eliminácia obetí vojakov môže minimalizovať domáci verejný odpor krajiny voči vedeniu vojny v cudzích krajinách.
• O eskalácii rozpočtov na obranu medzi národmi pre vojenskú prevahu AI v budúcich vojnách môže rozhodnúť rýchlosť rozhodovania a sofistikovanosť budúcich zbraní a armád riadených AI. 
• Zvyšujúce sa partnerstvo medzi ľuďmi a strojmi, kde budú dáta okamžite poskytnuté ľudským vojakom, čo im umožní upravovať bojovú taktiku a stratégie v reálnom čase.
• Krajiny čoraz viac využívajú zdroje svojich súkromných technologických sektorov na posilnenie svojich obranných schopností AI. 
• Jedna alebo viac globálnych zmlúv, ktoré sa presadzujú v Organizácii Spojených národov, zakazujúcich alebo obmedzujúcich používanie autonómnych zbraní. Takúto politiku budú pravdepodobne najvyššie svetové armády ignorovať.

Otázky na komentár

• Myslíte si, že algoritmický boj bude prínosom pre ľudí zaradených do armády?
• Veríte, že systémom AI navrhnutým na vedenie vojny možno dôverovať, alebo by sa mali obmedziť alebo úplne zakázať?