Big Tech a armáda: Etická šedá zóna

• Autor:
• jméno autora

  Quantumrun Foresight
• Ledna 18, 2023

Shrnutí statistik

Společnosti ze Silicon Valley vedly k významným inovacím v autonomních technologiích, jako jsou samořídící vozidla a drony. Od roku 2010 se tyto inovace postupně dostaly do technologických hromad armád po celém světě, aby posílily schopnosti autonomního boje. V důsledku toho techničtí zaměstnanci soukromého sektoru a organizace pro lidská práva po celém světě požadují transparentnější směrnice o tom, jak příslušné armády jejich zemí přijímají technologie soukromého sektoru.

Big Tech a vojenský kontext

Vývoj technologií pro armádu vyžaduje obrovské množství času a investic. Vojensko-průmyslový komplex například obvykle zahrnuje dlouhodobé partnerství mezi vojenskými organizacemi a masivními dodavateli obrany, jako jsou Lockheed Martin a Raytheon v USA. Jejich projekty zahrnují rozvoj obranných prostředků, jako jsou autonomní vojenské drony a letadlové lodě. 

Vojensko-průmyslový komplex však zahrnuje také partnerství s jinými typy společností soukromého sektoru, které nejsou tradičně spojovány s obranným sektorem, jako jsou firmy Big Tech. Jak tato nová obranná partnerství narůstají, mnoho zaměstnanců si uvědomuje, že smlouvy jsou podepisovány bez jejich vědomí. Například v roce 2018 informátoři zaměstnanců a investigativní novináři zveřejnili zapojení společnosti Google do projektu Maven, iniciativy amerického ministerstva obrany (DoD), která využívá umělou inteligenci (AI) k cílení útoků dronů. Zaměstnanci Googlu tvrdí, že společnost nikdy nepožádala o jejich souhlas s účastí na tomto a dalších obranných projektech.

Nicméně v roce 2018 Google vycouval z projektu Maven poté, co tisíce zaměstnanců podepsaly petici, která tvrdila, že společnost by neměla být ve válečném podnikání. Takový vývoj donutil některé technologické firmy, aby se postavily na to, kde nakreslit čáru. Například po svém stažení z projektu Maven vydala společnost Google etické pokyny, které nastiňují její názory na odpovědný výzkum AI. Politika uváděla, že společnost nebude konstruovat zbraně založené na AI, ale nevylučuje pokračující spolupráci s obranným sektorem na rozvoji neútočných vojenských schopností.

Rušivý dopad

Zapojení mezi Big Tech a armádou může mít dlouhodobé důsledky pro tyto technologické podniky. Zejména mnoho zemí stále více považuje tradičně neutrální společnosti jako Google nebo Microsoft za spojence amerických vojenských organizací. Vzhledem k tomu, že tyto firmy jsou nyní známé tím, že aktivně spolupracují v americkém obranném sektoru, vnější státy začínají váhat, zda nadále záviset na americké velké technologii, pokud jde o software a technickou podporu. Podobná váhavost byla aplikována na čínské technologické giganty; například USA, Kanada a mnoho evropských zemí začalo zakazovat telekomunikační systémy Huawei 5G ze strachu z dohledu čínské vlády. 

Navíc někteří liberálně smýšlející zaměstnanci pracující v takových technologických společnostech se mohou časem cítit vykořisťováni. Zejména pracovníci Millennial a Gen Z mají tendenci klást důraz na etické obchodní praktiky a podle toho si vybírají své zaměstnavatele. Někteří z těchto mladých zaměstnanců se mohou dokonce stát informátory a odhalit tajemství, čímž poškodí pověst své příslušné společnosti. 

Americké ministerstvo obrany se nicméně snaží být transparentnější v tom, jak provádí své výzkumné iniciativy. Ministerstvo nyní vyžaduje, aby dodavatelé třetích stran zveřejnili své příslušné etické pokyny pro umělou inteligenci, které jasně zdůrazňují, jak dohlížejí na vývoj strojového učení. Big Tech také agresivně implementuje své zodpovědné iniciativy AI. Například Facebook založil svou etickou radu (2018), aby zajistil, že algoritmy a nové funkce nebudou zaujaté. 

Důsledky Big Tech a armády

Širší důsledky rostoucího partnerství Big Tech s obranným sektorem mohou zahrnovat:

• Země s rozvinutými technologickými sektory získávají v budoucím bitevním prostoru hlubší vojenskou výhodu nad méně rozvinutými kolegy. 
• Techničtí zaměstnanci vyžadují, aby jejich příslušné firmy byly transparentní u každého projektu, na kterém pracují, včetně úplného odhalení zainteresovaných stran.
• Několik firem, jako je Google, Microsoft a Amazon, ustupuje od vybraných vojenských a donucovacích smluv.
• Vojenské organizace se přesouvají k menším technologickým firmám a startupům, aby se vyhnuly kontrole.
• Environmentální, sociální a governance (ESG) hodnocení se zaměřením na etické metriky, aby bylo zajištěno, že firmy implementují AI zodpovědně.
• Rostoucí rozvoj schopností algoritmického válčení, stejně jako autonomních dronů, tanků a podvodních vozidel pro válečné použití.

Otázky k zamyšlení

• Pokud pracujete v technologické firmě, jak vaše společnost implementuje odpovědnou umělou inteligenci?
• Jak mohou Big Tech a armáda spolupracovat transparentněji a eticky?