Lluites algorítmiques: els robots assassins són la nova cara de la guerra moderna?

• autor:
• nom de l'autor

  Previsió de Quantumrun
• Gener 10, 2023

Els països continuen investigant sistemes de guerra artificialment intel·ligents (IA) tot i que la resistència ha augmentat dins de la societat civil contra les armes letals i autònomes. 

Context de guerra algorítmica

Les màquines utilitzen algorismes (un conjunt d'instruccions matemàtiques) per resoldre problemes que imiten la intel·ligència humana. La lluita algorítmica implica el desenvolupament de sistemes impulsats per IA que poden gestionar de manera autònoma armes, tàctiques i fins i tot operacions militars completes. Les màquines que controlen de manera autònoma sistemes d'armes han obert nous debats sobre el paper que haurien de tenir les màquines autònomes en la guerra i les seves implicacions ètiques. 

D'acord amb el Dret Internacional Humanitari, qualsevol màquina (ja sigui armada o no) s'ha de sotmetre a revisions estrictes abans de ser desplegada, especialment si està destinada a causar danys a persones o edificis. Això s'estén als sistemes d'IA que s'estan desenvolupant per convertir-se finalment en autoaprenentatge i autocorrecció, cosa que pot provocar que aquestes màquines substitueixin els sistemes d'armes controlades per humans en les operacions militars.

El 2017, Google va rebre una greu reacció dels seus empleats quan es va descobrir que l'empresa estava treballant amb el Departament de Defensa dels Estats Units per desenvolupar sistemes d'aprenentatge automàtic per utilitzar-los en l'exèrcit. Els activistes estaven preocupats perquè la creació de robots militars que possiblement autoevolucionés pugui violar les llibertats civils o conduir al reconeixement d'objectius fals. L'ús de la tecnologia de reconeixement facial a l'exèrcit ha augmentat (des del 2019) per crear una base de dades de terroristes o persones d'interès. Els crítics han expressat la seva preocupació pel fet que la presa de decisions impulsada per la IA pot donar lloc a resultats desastrosos si la intervenció humana es veu compromesa. Tanmateix, la majoria dels membres de les Nacions Unides afavoreixen la prohibició dels sistemes d'armes autònomes letals (LEI) a causa de la possibilitat que aquestes entitats es converteixin en canalla.

Impacte disruptiu

La caiguda de les xifres de reclutament militar que experimenten moltes nacions occidentals, una tendència que es va aprofundir durant la dècada de 2010, és un factor clau que contribueix a l'adopció de solucions militars automatitzades. Un altre factor que impulsa l'adopció d'aquestes tecnologies és el seu potencial per racionalitzar i automatitzar les operacions del camp de batalla, donant lloc a un augment de l'eficiència de la lluita i als costos operatius més baixos. Algunes parts interessades de la indústria militar també han afirmat que els sistemes i algorismes militars controlats per IA poden reduir les baixes humanes proporcionant informació precisa i en temps real que pot augmentar la precisió dels sistemes desplegats perquè assoleixin els objectius previstos. 

Si es despleguen més sistemes d'armes militars controlats per IA als teatres de tot el món, es podria desplegar menys personal humà a les zones de conflicte, la qual cosa reduirà les baixes militars als teatres de guerra. Els fabricants d'armes impulsades per IA poden incloure contramesures com ara interruptors de matança perquè aquests sistemes es puguin desactivar immediatament si es produeix un error.  

Implicacions de les armes controlades per IA 

Les implicacions més àmplies de les armes autònomes desplegades pels militars a tot el món poden incloure:

• S'està desplegant armament autònom en lloc dels soldats de peu, disminuint els costos de guerra i les baixes dels soldats.
• La major aplicació de la força militar per part de nacions seleccionades amb més accés a actius autònoms o mecanitzats, ja que la reducció o eliminació de baixes de tropes pot minimitzar la resistència pública interna d'un país a fer la guerra en terres estrangeres.
• Una escalada dels pressupostos de defensa entre les nacions per a la supremacia militar de la IA a mesura que futures guerres es pot decidir per la velocitat de presa de decisions i la sofisticació de les armes i els militars controlats per la IA del futur. 
• Augment de l'associació entre humans i màquines, on les dades es proporcionaran instantàniament als soldats humans, cosa que els permetrà ajustar les tàctiques i estratègies de batalla en temps real.
• Els països aprofiten cada cop més els recursos dels seus sectors tecnològics privats per reforçar les seves capacitats de defensa de la IA. 
• Un o més tractats globals que es promouen a les Nacions Unides que prohibeixen o limiten l'ús d'armes autònomes. És probable que aquestes polítiques seran ignorades pels principals militars del món.

Preguntes per comentar

• Creus que la lluita algorítmica beneficiarà els humans allistats a l'exèrcit?
• Creus que es pot confiar en els sistemes d'IA dissenyats per a la guerra, o s'han de reduir o prohibir-los?