Algoritmische oorlogsvoering: zijn killer-robots het nieuwe gezicht van moderne oorlogsvoering?

• Auteur:
• auteursnaam

  Quantumrun-prognose
• 10 januari 2023

Landen blijven onderzoek doen naar kunstmatig intelligente (AI) oorlogssystemen, ook al is de weerstand binnen het maatschappelijk middenveld tegen dodelijke, autonome wapens toegenomen. 

Algoritmische oorlogsvoering context

Machines gebruiken algoritmen (een reeks wiskundige instructies) om problemen op te lossen die de menselijke intelligentie nabootsen. Algoritmische oorlogsvoering omvat de ontwikkeling van door AI aangedreven systemen die autonoom wapens, tactieken en zelfs volledige militaire operaties kunnen beheren. Machines die autonoom wapensystemen besturen, hebben nieuwe debatten geopend over de rol die autonome machines zouden moeten spelen in oorlogsvoering en de ethische implicaties ervan. 

Volgens het internationaal humanitair recht moet elke machine (bewapend of niet-bewapend) aan strenge controles worden onderworpen voordat ze wordt ingezet, vooral als ze bedoeld zijn om schade toe te brengen aan personen of gebouwen. Dit strekt zich uit tot AI-systemen die worden ontwikkeld om uiteindelijk zelflerend en zelfcorrigerend te worden, wat ertoe kan leiden dat deze machines door mensen bestuurde wapensystemen gaan vervangen bij militaire operaties.

In 2017 kreeg Google ernstige reacties van zijn werknemers toen werd ontdekt dat het bedrijf samenwerkte met het Amerikaanse ministerie van Defensie om machine learning-systemen te ontwikkelen voor gebruik in het leger. Activisten waren bezorgd dat het creëren van mogelijk zelfontwikkelende militaire robots de burgerlijke vrijheden zou kunnen schenden of zou kunnen leiden tot valse doelherkenning. Het gebruik van gezichtsherkenningstechnologie in het leger is toegenomen (al in 2019) om een ​​database van gerichte terroristen of personen van belang te creëren. Critici hebben hun bezorgdheid geuit dat AI-gestuurde besluitvorming tot rampzalige resultaten kan leiden als menselijke tussenkomst in het gedrang komt. De meeste leden van de Verenigde Naties zijn echter voorstander van een verbod op dodelijke autonome wapensystemen (LAWS) vanwege de mogelijkheid dat deze entiteiten schurkenstaten worden.

Disruptieve impact

Dalende militaire rekruteringscijfers die veel westerse landen ervaren - een trend die zich in de jaren 2010 verdiepte - zijn een sleutelfactor die bijdraagt ​​​​aan de acceptatie van geautomatiseerde militaire oplossingen. Een andere factor die de acceptatie van deze technologieën stimuleert, is hun potentieel om operaties op het slagveld te stroomlijnen en te automatiseren, wat leidt tot meer efficiëntie in oorlogsvoering en lagere bedrijfskosten. Sommige belanghebbenden uit de militaire industrie hebben ook beweerd dat door AI bestuurde militaire systemen en algoritmen het aantal menselijke slachtoffers kunnen verminderen door realtime en nauwkeurige informatie te verstrekken die de nauwkeurigheid van ingezette systemen kan vergroten, zodat ze hun beoogde doelen raken. 

Als er wereldwijd meer AI-gestuurde militaire wapensystemen worden ingezet in theaters, kan er minder menselijk personeel worden ingezet in conflictgebieden, waardoor er minder militaire slachtoffers vallen in oorlogsgebieden. De makers van AI-gestuurde wapens kunnen tegenmaatregelen nemen, zoals kill-schakelaars, zodat deze systemen onmiddellijk kunnen worden uitgeschakeld als er een fout optreedt.  

Implicaties van AI-gestuurde wapens 

Bredere implicaties van de inzet van autonome wapens door legers over de hele wereld kunnen zijn:

• Autonome wapens worden ingezet in plaats van voetsoldaten, waardoor oorlogskosten en soldatenslachtoffers dalen.
• De grotere toepassing van militair geweld door geselecteerde landen met meer toegang tot autonome of gemechaniseerde middelen, aangezien de vermindering of eliminatie van troepenslachtoffers de binnenlandse publieke weerstand van een land tegen het voeren van oorlog in vreemde landen kan minimaliseren.
• Een escalatie van defensiebudgetten tussen naties voor militaire AI-suprematie, aangezien toekomstige oorlogen kunnen worden beslist door de besluitvormingssnelheid en verfijning van toekomstige AI-gestuurde wapens en legers. 
• Toenemende samenwerking tussen mensen en machines, waarbij gegevens onmiddellijk aan menselijke soldaten worden verstrekt, waardoor ze gevechtstactieken en -strategieën in realtime kunnen aanpassen.
• Landen maken steeds meer gebruik van de middelen van hun particuliere technologiesector om hun AI-defensiecapaciteiten te versterken. 
• Een of meer wereldwijde verdragen die worden gepromoot in de Verenigde Naties die het gebruik van autonome wapens verbieden of beperken. Een dergelijk beleid zal waarschijnlijk worden genegeerd door 's werelds beste legers.

Vragen om op te reageren

• Denk je dat algoritmische oorlogsvoering mensen ten goede zal komen die in het leger zijn ingelijfd?
• Gelooft u dat AI-systemen die zijn ontworpen voor oorlogsvoering te vertrouwen zijn, of moeten ze worden ingeperkt of volledig worden verboden?