Big Tech e os militares: a zona cinza ética

• Autor:
• Nome do autor

  Previsão Quantumrun
• 18 de janeiro de 2023

Resumo do insight

As empresas do Vale do Silício impulsionaram inovações significativas em tecnologias autônomas, como veículos autônomos e drones. Desde a década de 2010, essas inovações gradualmente se infiltraram nas pilhas de tecnologia das forças armadas em todo o mundo para aprimorar as capacidades de guerra autônoma. Como resultado, funcionários de tecnologia do setor privado e organizações de direitos humanos em todo o mundo estão pedindo diretrizes mais transparentes sobre como as respectivas forças armadas de seus países estão adotando tecnologias do setor privado.

Big Tech e o contexto militar

O desenvolvimento de tecnologia para os militares exige muito tempo e investimento. O complexo militar-industrial, por exemplo, normalmente envolve uma parceria de longa data entre organizações militares e grandes empresas de defesa, como a Lockheed Martin e a Raytheon nos Estados Unidos. Seus projetos envolvem o desenvolvimento de meios de defesa, como drones militares autônomos e porta-aviões. 

No entanto, o complexo militar-industrial também envolve parcerias com outros tipos de empresas do setor privado que não são tradicionalmente associadas ao setor de defesa, como as empresas de Big Tech. À medida que essas novas parcerias de defesa crescem em número, muitos funcionários estão tomando conhecimento de contratos assinados sem seu conhecimento. Por exemplo, em 2018, denunciantes da equipe e jornalistas investigativos tornaram público o envolvimento do Google com o Project Maven, uma iniciativa do Departamento de Defesa dos EUA (DoD) que emprega inteligência artificial (IA) para direcionar ataques de drones. Funcionários do Google afirmam que a empresa nunca pediu seu consentimento para participar desse e de outros projetos de defesa.

No entanto, em 2018, o Google desistiu do Project Maven depois que uma petição foi assinada por milhares de funcionários, alegando que a empresa não deveria estar no ramo da guerra. Tais desenvolvimentos forçaram algumas empresas de tecnologia a se posicionarem sobre onde traçar a linha. Por exemplo, após sua retirada do Project Maven, o Google emitiu diretrizes éticas descrevendo seus pontos de vista sobre pesquisa responsável de IA. A política afirmava que a empresa não estaria construindo armas baseadas em IA, mas não descartou colaborações contínuas com o setor de defesa para desenvolver capacidades militares não ofensivas.

Impacto disruptivo

O envolvimento entre Big Tech e militares pode ter consequências de longo prazo para essas empresas de tecnologia. Em particular, muitos países veem cada vez mais empresas tradicionalmente neutras, como Google ou Microsoft, como aliadas de organizações militares dos EUA. Uma vez que essas empresas agora são conhecidas por colaborar ativamente no setor de defesa dos EUA, as nações externas estão hesitando em continuar dependendo da Big Tech dos EUA para software e suporte técnico. Uma hesitação semelhante foi aplicada aos gigantes tecnológicos chineses; por exemplo, os EUA, o Canadá e muitos países europeus começaram a banir os sistemas de telecomunicações Huawei 5G por medo da vigilância do governo chinês. 

Além disso, alguns funcionários liberais que trabalham nessas empresas de tecnologia podem se sentir explorados com o tempo. Em particular, os trabalhadores da geração do milênio e da geração Z tendem a valorizar as práticas comerciais éticas e escolherão seus empregadores de acordo. Alguns desses jovens funcionários podem até se tornar delatores e expor segredos, prejudicando a reputação de suas respectivas empresas. 

No entanto, o Departamento de Defesa dos EUA está tentando se tornar mais transparente na forma como conduz suas iniciativas de pesquisa. O Departamento agora exige que fornecedores terceirizados publiquem suas respectivas diretrizes éticas de IA que destacam claramente como eles supervisionam os desenvolvimentos de aprendizado de máquina. A Big Tech também está implementando agressivamente suas iniciativas responsáveis ​​de IA. Por exemplo, o Facebook estabeleceu seu conselho de ética (2018) para garantir que algoritmos e novos recursos não sejam tendenciosos. 

Implicações da Big Tech e dos militares

Implicações mais amplas da parceria cada vez maior da Big Tech com o setor de defesa podem incluir:

• Os países com setores tecnológicos desenvolvidos obtêm uma vantagem militar mais profunda sobre seus pares menos desenvolvidos no campo de batalha futuro. 
• Os funcionários de tecnologia exigem que suas respectivas empresas sejam transparentes em todos os projetos em que estão trabalhando, inclusive revelando totalmente as partes interessadas.
• Várias empresas, como Google, Microsoft e Amazon, recuando de contratos militares e policiais selecionados.
• Organizações militares mudando para pequenas empresas de tecnologia e startups para evitar o escrutínio.
• Classificações ambientais, sociais e de governança (ESG) com foco em métricas de ética para garantir que as empresas implementem IA de forma responsável.
• O crescente desenvolvimento de capacidades de guerra algorítmica, bem como drones autônomos, tanques e veículos subaquáticos para uso em tempo de guerra.

Questões a considerar

• Se você trabalha em uma empresa de tecnologia, como sua empresa implementa uma IA responsável?
• Como a Big Tech e os militares podem trabalhar juntos de forma mais transparente e ética?