Algoritmický boj: Jsou zabijáckí roboti novou tváří moderního válčení?

• Autor:
• jméno autora

  Quantumrun Foresight
• Ledna 10, 2023

Země pokračují ve výzkumu uměle inteligentních (AI) válečných systémů, i když v občanské společnosti vzrostl odpor proti smrtícím, autonomním zbraním. 

Algoritmický bojový kontext

Stroje používají algoritmy (soubor matematických instrukcí) k řešení problémů, které napodobují lidskou inteligenci. Algoritmické válečné boje zahrnují vývoj systémů poháněných umělou inteligencí, které mohou autonomně řídit zbraně, taktiku a dokonce i celé vojenské operace. Stroje autonomně ovládající zbraňové systémy otevřely nové debaty o roli, kterou by autonomní stroje měly hrát ve válčení, ao jejích etických důsledcích. 

Podle mezinárodního humanitárního práva by každý stroj (ať už vybavený nebo bez zbraní) měl před nasazením projít přísnými kontrolami, zejména pokud jsou určeny k poškození osob nebo budov. To se vztahuje i na systémy umělé inteligence, které se vyvíjejí, aby se nakonec staly samoučícími se a samoopravnými, což může vést k tomu, že tyto stroje ve vojenských operacích nahradí lidsky ovládané zbraňové systémy.

V roce 2017 dostal Google od svých zaměstnanců silnou reakci, když se zjistilo, že společnost spolupracuje s ministerstvem obrany Spojených států na vývoji systémů strojového učení pro použití v armádě. Aktivisté se obávali, že vytváření potenciálně samostatně se vyvíjejících vojenských robotů může porušovat občanské svobody nebo vést k falešnému rozpoznání cíle. Používání technologie rozpoznávání obličejů v armádě se zvýšilo (již v roce 2019) k vytvoření databáze cílených teroristů nebo zájmových osob. Kritici vyjádřili obavy, že rozhodování řízené umělou inteligencí může vést ke katastrofálním výsledkům, pokud je ohrožen lidský zásah. Většina členů Organizace spojených národů však upřednostňuje zákaz smrtících autonomních zbraňových systémů (LAWS) kvůli možnosti, že se tyto subjekty budou zlobit.

Rušivý dopad

Klesající počty vojenských náborů, s nimiž se setkávají mnohé západní země – trend, který se prohloubil během roku 2010 – jsou klíčovým faktorem přispívajícím k přijetí automatizovaných vojenských řešení. Dalším faktorem, který řídí přijetí těchto technologií, je jejich potenciál zefektivnit a automatizovat operace na bojišti, což vede ke zvýšené efektivitě bojů a nižším provozním nákladům. Některé zúčastněné strany vojenského průmyslu také tvrdily, že vojenské systémy a algoritmy řízené umělou inteligencí mohou snížit lidské oběti poskytováním přesných informací v reálném čase, které mohou zvýšit přesnost nasazených systémů, aby zasáhly zamýšlené cíle. 

Pokud bude v dějištích po celém světě rozmístěno více vojenských zbraňových systémů řízených umělou inteligencí, může být v konfliktních zónách rozmístěno méně lidského personálu, což sníží vojenské ztráty na dějištích války. Výrobci zbraní řízených umělou inteligencí mohou zahrnout protiopatření, jako jsou spínače zabíjení, aby bylo možné tyto systémy okamžitě deaktivovat, pokud dojde k chybě.  

Důsledky zbraní řízených umělou inteligencí 

Širší důsledky autonomních zbraní rozmístěných armádami po celém světě mohou zahrnovat:

• Autonomní zbraně jsou rozmístěny místo pěšáků, což snižuje náklady na válku a ztráty vojáků.
• Větší použití vojenské síly vybranými národy s větším přístupem k autonomním nebo mechanizovaným prostředkům, protože snížení nebo odstranění ztrát vojsk může minimalizovat domácí veřejný odpor země vůči vedení války v cizích zemích.
• Eskalace obranných rozpočtů mezi národy pro vojenskou převahu AI v budoucích válkách může rozhodnout rychlost rozhodování a sofistikovanost budoucích zbraní a armád řízených AI. 
• Zvyšující se partnerství mezi lidmi a stroji, kde budou data okamžitě poskytnuta lidským vojákům, což jim umožní upravovat bitevní taktiku a strategie v reálném čase.
• Země stále více využívají zdroje svých soukromých technologických sektorů, aby posílily své obranné schopnosti AI. 
• Jedna nebo více globálních smluv prosazovaných v OSN zakazující nebo omezující používání autonomních zbraní. Taková politika bude pravděpodobně ignorována nejvyššími světovými armádami.

Otázky ke komentáři

• Myslíte si, že algoritmický boj bude přínosem pro lidi narukované do armády?
• Věříte, že systémům umělé inteligence navrženým pro válčení lze důvěřovat, nebo je třeba je omezit nebo rovnou zakázat?