Big Tech og militæret: Den etiske gråzone

• Forfatter:
• Forfatter navn

  Quantumrun Foresight
• Januar 18, 2023

Oversigt over indsigt

Silicon Valley-virksomheder har drevet betydelige innovationer inden for autonome teknologier, såsom selvkørende køretøjer og droner. Siden 2010'erne er disse innovationer gradvist filtret ind i de teknologiske stakke af militære verden over for at fremme autonome krigsførelseskapaciteter. Som et resultat efterlyser teknologiansatte i den private sektor og menneskerettighedsorganisationer verden over mere gennemsigtige retningslinjer for, hvordan deres landes respektive militærer anvender teknologier fra den private sektor.

Big Tech og den militære kontekst

Teknologiudvikling til militæret tager enorme mængder tid og investeringer. Det militær-industrielle kompleks involverer for eksempel typisk et langvarigt partnerskab mellem militære organisationer og massive forsvarsentreprenører, såsom Lockheed Martin og Raytheon i USA. Deres projekter involverer udvikling af forsvarsaktiver såsom autonome militærdroner og hangarskibe. 

Det militær-industrielle kompleks involverer dog også partnerskaber med andre typer private virksomheder, som ikke traditionelt er forbundet med forsvarssektoren, såsom Big Tech-firmaer. Efterhånden som disse nye forsvarspartnerskaber vokser i antal, bliver mange medarbejdere opmærksomme på, at kontrakter bliver underskrevet uden deres viden. For eksempel offentliggjorde ansattes whistleblowere og undersøgende journalister i 2018 Googles involvering i Project Maven, et initiativ fra det amerikanske forsvarsministerium (DoD), der anvender kunstig intelligens (AI) til at målrette droneangreb. Google-medarbejdere hævder, at virksomheden aldrig har bedt om deres samtykke til at deltage i dette og andre forsvarsprojekter.

Ikke desto mindre trak Google i 2018 tilbage fra Project Maven, efter at en underskriftsindsamling blev underskrevet af tusindvis af medarbejdere, der hævdede, at virksomheden ikke skulle være i krigsbranchen. En sådan udvikling har tvunget nogle teknologivirksomheder til at tage stilling til, hvor grænsen skal trækkes. For eksempel udsendte Google etiske retningslinjer efter deres tilbagetrækning fra Project Maven, der skitserede deres synspunkter om ansvarlig AI-forskning. Politikken sagde, at virksomheden ikke ville konstruere AI-baserede våben, men udelukkede ikke fortsatte samarbejder med forsvarssektoren for at udvikle ikke-offensive militære kapaciteter.

Forstyrrende påvirkning

Inddragelsen mellem Big Tech og militæret kan have langsigtede konsekvenser for disse teknologivirksomheder. Især ser mange lande i stigende grad traditionelt neutrale virksomheder som Google eller Microsoft som allierede med amerikanske militærorganisationer. Da disse firmaer nu er kendt for at samarbejde aktivt i den amerikanske forsvarssektor, er lande udenfor tøvende med at fortsætte med at være afhængige af US Big Tech for software og teknisk support. En lignende tøven er blevet anvendt over for kinesiske teknologigiganter; for eksempel er USA, Canada og mange europæiske lande begyndt at forbyde Huawei 5G-telekommunikationssystemer af frygt for kinesisk regeringsovervågning. 

Desuden kan nogle liberalt indstillede medarbejdere, der arbejder i sådanne teknologivirksomheder, føle sig udnyttet over tid. Især Millennial- og Gen Z-arbejdere har en tendens til at sætte en præmie på etisk forretningspraksis og vil vælge deres arbejdsgivere i overensstemmelse hermed. Nogle af disse unge medarbejdere kan endda blive whistleblowere og afsløre hemmeligheder, hvilket skader deres respektive virksomheds omdømme. 

Ikke desto mindre søger den amerikanske DoD at blive mere gennemsigtig i, hvordan den udfører sine forskningsinitiativer. Afdelingen kræver nu, at tredjepartsleverandører offentliggør deres respektive etiske retningslinjer for kunstig intelligens, der tydeligt fremhæver, hvordan de overvåger udviklingen af ​​maskinlæring. Big Tech implementerer også aggressivt sine ansvarlige AI-initiativer. For eksempel etablerede Facebook sin etiske bestyrelse (2018) for at sikre, at algoritmer og nye funktioner ikke er forudindtaget. 

Implikationer af Big Tech og militæret

De bredere implikationer af Big Techs i stigende grad partnerskab med forsvarssektoren kan omfatte:

• Lande med udviklede teknologisektorer opnår en dybere militær fordel i forhold til mindre udviklede jævnaldrende i fremtidens kamprum. 
• Tekniske medarbejdere, der kræver, at deres respektive firmaer er gennemsigtige i hvert projekt, de arbejder på, herunder fuldstændig afsløring af interessenterne.
• Adskillige firmaer, som Google, Microsoft og Amazon, trækker sig tilbage fra udvalgte militær- og retshåndhævende kontrakter.
• Militære organisationer skifter til mindre teknologivirksomheder og startups for at undgå kontrol.
• ESG-vurderinger (Environmental, social and governance) med fokus på etiske målinger for at sikre, at virksomheder implementerer kunstig intelligens på en ansvarlig måde.
• Den stigende udvikling af algoritmiske krigsførelseskapaciteter såvel som autonome droner, tanke og undervandsfartøjer til brug i krigstid.

Spørgsmål at overveje

• Hvis du arbejder i et teknologifirma, hvordan implementerer din virksomhed ansvarlig AI?
• Hvordan kan Big Tech og militæret arbejde mere gennemsigtigt og etisk sammen?