Loita algorítmica: os robots asasinos son a nova cara da guerra moderna?

• autor:
• nome do autor

  Previsión de Quantumrun
• Xaneiro 10, 2023

Os países seguen investigando sistemas de guerra artificialmente intelixentes (IA) aínda que aumentou a resistencia dentro da sociedade civil contra as armas letais e autónomas. 

Contexto de loita algorítmica

As máquinas usan algoritmos (un conxunto de instrucións matemáticas) para resolver problemas que imitan a intelixencia humana. A loita algorítmica implica o desenvolvemento de sistemas alimentados por intelixencia artificial que poden xestionar de forma autónoma armas, tácticas e incluso operacións militares enteiras. As máquinas que controlan de forma autónoma os sistemas de armas abriron novos debates sobre o papel que deberían xogar as máquinas autónomas na guerra e as súas implicacións éticas. 

Segundo o Dereito Internacional Humanitario, calquera máquina (arma ou non) debe ser sometida a revisións rigorosas antes de ser despregada, especialmente se está destinada a causar danos a persoas ou edificios. Isto esténdese aos sistemas de IA que se están desenvolvendo para converterse finalmente en autoaprendizaxe e autocorrección, o que pode levar a que estas máquinas substitúan os sistemas de armas controladas por humanos nas operacións militares.

En 2017, Google recibiu unha forte reacción dos seus empregados cando se descubriu que a empresa estaba a traballar co Departamento de Defensa dos Estados Unidos para desenvolver sistemas de aprendizaxe automática para ser utilizados no exército. Os activistas estaban preocupados de que a creación de robots militares posiblemente autoevolutivos puidese violar as liberdades civís ou levar a un falso recoñecemento de obxectivos. O uso da tecnoloxía de recoñecemento facial no exército aumentou (xa en 2019) para crear unha base de datos de terroristas ou persoas de interese. Os críticos expresaron a súa preocupación de que a toma de decisións impulsada pola IA poida levar a resultados desastrosos se a intervención humana se ve comprometida. Non obstante, a maioría dos membros das Nacións Unidas están a favor da prohibición dos sistemas de armas autónomas letais (LEIS) pola posibilidade de que estas entidades se volvan deshonestas.

Impacto perturbador

A caída das cifras de recrutamento militar que experimentan moitas nacións occidentais, unha tendencia que se afondou durante a década de 2010, é un factor clave que contribúe á adopción de solucións militares automatizadas. Outro factor que impulsa a adopción destas tecnoloxías é o seu potencial para axilizar e automatizar as operacións do campo de batalla, o que leva a aumentar a eficiencia na loita bélica e a reducir os custos operativos. Algunhas partes interesadas da industria militar tamén afirmaron que os sistemas e algoritmos militares controlados pola intelixencia artificial poden reducir as vítimas humanas proporcionando información precisa e en tempo real que pode aumentar a precisión dos sistemas despregados para acadar os obxectivos previstos. 

Se se despregan máis sistemas de armas militares controlados pola intelixencia artificial nos teatros de todo o mundo, é posible que se despregue menos persoal humano nas zonas de conflito, reducindo as vítimas militares nos teatros de guerra. Os fabricantes de armas impulsadas pola IA poden incluír contramedidas como interruptores de extinción para que estes sistemas poidan desactivarse inmediatamente se se produce un erro.  

Implicacións das armas controladas pola IA 

As implicacións máis amplas das armas autónomas despregadas polos militares en todo o mundo poden incluír:

• Despregándose armamento autónomo en lugar dos soldados a pé, diminuíndo os custos de guerra e as baixas dos soldados.
• A maior aplicación da forza militar por parte de nacións seleccionadas con maior acceso a activos autónomos ou mecanizados, xa que a redución ou eliminación das baixas das tropas pode minimizar a resistencia pública interna dun país a facer guerra en terras estranxeiras.
• Unha escalada dos orzamentos de defensa entre as nacións para a supremacía militar da IA ​​como futuras guerras pode decidirse pola rapidez de toma de decisións e a sofisticación das futuras armas e militares controlados pola IA. 
• Aumento da asociación entre humanos e máquinas, onde os datos serán proporcionados instantáneamente aos soldados humanos, permitíndolles axustar as tácticas e estratexias de batalla en tempo real.
• Os países aproveitan cada vez máis os recursos dos seus sectores tecnolóxicos privados para reforzar as súas capacidades de defensa da intelixencia artificial. 
• Un ou varios tratados globais que se están promovendo nas Nacións Unidas que prohiben ou limitan o uso de armas autónomas. Esas políticas probablemente serán ignoradas polos principais exércitos do mundo.

Preguntas para comentar

• Cres que a loita algorítmica beneficiará aos humanos alistados no exército?
• Cres que se pode confiar nos sistemas de intelixencia artificial deseñados para a guerra, ou deberían ser reducidos ou prohibidos?