Big Tech lan militer: Zona abu-abu etika

• Babagan Author:
• Jeneng panganggit

  Quantumrun Foresight
• Januari 18, 2023

Ringkesan wawasan

Perusahaan Lembah Silicon wis nyurung inovasi sing signifikan ing teknologi otonom, kayata kendharaan lan drone. Wiwit taun 2010-an, inovasi kasebut mboko sithik nyaring menyang tumpukan teknologi militer ing saindenging jagad kanggo ngembangake kemampuan perang otonom. Akibaté, karyawan teknologi sektor swasta lan organisasi hak asasi manungsa ing saindenging jagad njaluk pedoman sing luwih transparan babagan cara militer negarane nggunakake teknologi sektor swasta.

Big Tech lan konteks militèr

Pangembangan teknologi kanggo militer mbutuhake wektu lan investasi sing akeh banget. Komplek industri militer, contone, biasane melu kemitraan sing wis suwe antarane organisasi militer lan kontraktor pertahanan gedhe, kayata Lockheed Martin lan Raytheon ing AS. Proyek kasebut kalebu ngembangake aset pertahanan kayata drone militer otonom lan operator pesawat. 

Nanging, kompleks industri militer uga melu kemitraan karo jinis perusahaan swasta liyane sing ora ana hubungane karo sektor pertahanan, kayata perusahaan Big Tech. Nalika kemitraan pertahanan anyar iki saya tambah akeh, akeh karyawan sing ngerti yen kontrak ditandatangani tanpa ngerti. Contone, ing taun 2018, whistleblower staf lan wartawan investigasi ngumumake keterlibatan Google karo Project Maven, inisiatif Departemen Pertahanan AS (DoD) sing nggunakake intelijen buatan (AI) kanggo target serangan drone. Karyawan Google ngaku manawa perusahaan kasebut ora nate njaluk idin kanggo melu ing proyek pertahanan iki lan liyane.

Nanging, ing 2018, Google mundur saka Project Maven sawise petisi ditandatangani dening ewonan karyawan, ngakoni yen perusahaan kasebut ora kudu ana ing bisnis perang. Pangembangan kasebut wis meksa sawetara perusahaan teknologi kudu ngadeg ing ngendi arep nggambar garis kasebut. Contone, sawise mundur saka Project Maven, Google ngetokake pedoman etika sing njlentrehake panemune babagan riset AI sing tanggung jawab. Kabijakan kasebut nyatakake yen perusahaan ora bakal nggawe senjata berbasis AI nanging ora ngilangi kolaborasi terus karo sektor pertahanan kanggo ngembangake kemampuan militer sing ora nyerang.

Dampak Disruptif

Keterlibatan antarane Big Tech lan militer bisa duwe akibat jangka panjang kanggo bisnis teknologi kasebut. Utamane, akeh negara sing nganggep perusahaan netral tradisional kaya Google utawa Microsoft minangka sekutu organisasi militer AS. Amarga perusahaan-perusahaan kasebut saiki dikenal kanthi aktif kolaborasi ing sektor pertahanan AS, negara-negara njaba dadi ragu-ragu kanggo terus gumantung marang US Big Tech kanggo piranti lunak lan dhukungan teknis. A mangu-mangu padha wis Applied kanggo raksasa teknologi Cina; contone, AS, Kanada, lan akeh negara Eropah wis wiwit nglarang sistem telekomunikasi 5G Huawei amarga wedi ndjogo pamaréntah Cina. 

Kajaba iku, sawetara karyawan sing duwe pikiran liberal sing kerja ing perusahaan teknologi kasebut bisa uga rumangsa dieksploitasi sajrone wektu. Utamane, buruh Millennial lan Gen Z cenderung ngetrapake praktik bisnis sing etis lan bakal milih majikane. Sawetara karyawan enom iki bisa uga dadi whistleblower lan mbukak rahasia, ngrusak reputasi perusahaane. 

Nanging, DoD AS kepengin dadi luwih transparan babagan cara nindakake inisiatif riset. Departemen kasebut saiki mbutuhake vendor pihak katelu kanggo nerbitake pedoman etika AI dhewe-dhewe sing jelas nyoroti carane ngawasi perkembangan pembelajaran mesin. Big Tech uga kanthi agresif ngetrapake inisiatif AI sing tanggung jawab. Contone, Facebook nggawe papan etika (2018) kanggo mesthekake yen algoritma lan fitur anyar ora bias. 

Implikasi Big Tech lan militèr

Implikasi sing luwih akeh saka Big Tech sing saya kerja sama karo sektor pertahanan bisa uga kalebu:

• Negara-negara kanthi sektor teknologi maju entuk keuntungan militer sing luwih jero tinimbang kanca-kanca sing kurang maju ing ruang perang ing mangsa ngarep. 
• Karyawan teknologi mbutuhake perusahaan masing-masing supaya transparan ing saben proyek sing ditindakake, kalebu ngumumake para pemangku kepentingan.
• Sawetara perusahaan, kayata Google, Microsoft, lan Amazon, mundur saka kontrak militer lan penegakan hukum sing dipilih.
• Organisasi militer pindhah menyang perusahaan teknologi lan startup sing luwih cilik supaya ora ditliti.
• Rating lingkungan, sosial, lan pamrentahan (ESG) fokus ing metrik etika kanggo mesthekake yen perusahaan ngetrapake AI kanthi tanggung jawab.
• Pangembangan kapabilitas perang algoritma, uga drone otonom, tank, lan kendharaan ing jero banyu kanggo panggunaan perang.

Pitakon sing kudu dipikirake

• Yen sampeyan kerja ing perusahaan teknologi, kepiye perusahaan sampeyan ngetrapake AI sing tanggung jawab?
• Kepiye Big Tech lan militer bisa kerja bareng kanthi luwih transparan lan etis?