Ética em veículos autônomos: planejamento para segurança e responsabilidade

• Autor:
• Nome do autor

  Previsão Quantumrun
• 11 de abril de 2023

Veículos autônomos usam software para determinar seu curso para minimizar o impacto de colisões. Esses veículos são projetados para reduzir o risco de colisões monitorando constantemente seus arredores, prevendo perigos potenciais e ajustando seu curso de ação de acordo. No entanto, à medida que esses veículos se tornam mais avançados, o julgamento da máquina está causando dilemas éticos e preocupações públicas sobre sua segurança. 

Contexto ético do veículo autônomo

As partes interessadas têm diferentes expectativas em relação aos veículos autônomos: os usuários esperam eficiência e confiabilidade, os espectadores esperam segurança e o governo espera eficiências de transporte. Respaldados por anos de pesquisa, visão e sensores de 360 ​​graus e melhor poder de processamento de informações do que os humanos, esses veículos atribuem pesos de risco às situações e tomam decisões rápidas para o suposto melhor curso de ação. Tem sido argumentado que a inteligência por trás da tecnologia tomará decisões melhores e mais rápidas do que os humanos no caso de colisões.

A questão permanece sobre quem será o culpado quando ocorrer uma colisão. Está tudo bem para a inteligência artificial (IA) escolher quais vidas valorizar e quais salvar quando se depara com a opção? A Alemanha propôs que esses carros sempre visassem minimizar as fatalidades e valorizar a vida humana sem discriminação. Essa proposta resultou em opiniões divergentes sobre o quanto o governo deveria ser capaz de atribuir valor à vida. Além disso, argumenta-se que a tecnologia é baseada na ética dos engenheiros que a projetaram. Alguns dizem que decisões arbitrárias são melhores do que programas predeterminados que determinam baixas. A possibilidade de veículos autônomos serem hackeados ou apresentarem mau funcionamento aumenta ainda mais os dilemas éticos. 

Impacto disruptivo 

As preocupações éticas em relação aos carros totalmente automatizados incluem questões como a forma como o veículo tomará decisões em emergências, quem será responsabilizado em um acidente e como garantir que a programação do carro não discrimine certos grupos de pessoas. Essas preocupações podem fazer com que alguns indivíduos hesitem em mudar para veículos totalmente automatizados e também podem levar ao aumento da pressão para que os engenheiros de produto sejam mais transparentes sobre os algoritmos usados ​​nos carros.

Uma possível solução para essas preocupações éticas são os requisitos obrigatórios para caixas-pretas automatizadas, que podem ajudar a determinar a causa dos acidentes. No entanto, a intervenção do governo nessa área também pode encontrar resistência, pois alguns podem argumentar que não é papel do governo regular o uso de veículos autônomos. 

As seguradoras também terão que se adaptar ao advento dos carros totalmente automatizados. Eles precisarão redesenhar suas políticas para levar em conta os riscos e responsabilidades exclusivos desses veículos. Esses planos podem incluir a preparação para ocorrências de mau funcionamento do produto e a determinação de quem será responsabilizado em caso de acidente. Uma proteção abrangente é necessária, pois já houve incidentes de sistemas de carros autônomos que identificaram erroneamente os pedestres como objetos, levando a acidentes.

Implicações da ética do veículo autônomo

Implicações mais amplas da ética do veículo autônomo podem incluir:

• Aumentar a desconfiança do público em relação aos veículos autônomos, especialmente se os fabricantes não forem transparentes sobre suas diretrizes éticas de IA.
• Órgãos reguladores que exigem que os fabricantes de carros autônomos publiquem suas políticas de IA e planos de resiliência para erros causados ​​por esses sistemas.
• Empresas de seguros que criam planos abrangentes que lidam com sistemas defeituosos relacionados à IA e hackers cibernéticos.
• Com o surgimento dos veículos autônomos, os dados das pessoas podem ser coletados e compartilhados com terceiros sem seu conhecimento ou consentimento.
• A mudança para veículos autônomos pode levar à perda de empregos para motoristas humanos, mas também criar novos empregos em áreas como manutenção de veículos, análise de dados e gerenciamento de disputas.
• Discriminação potencial contra certos grupos de pedestres, especialmente se os dados de treinamento forem tendenciosos.
• Os veículos autônomos são vulneráveis ​​a hackers e ataques cibernéticos, que podem comprometer a segurança dos passageiros e outros usuários da estrada.

Questões a considerar

• Você confiaria em um carro autônomo como passageiro ou espectador?
• Você acredita que os medos do público se dissolveriam lentamente ou alguns se recusariam a aceitar a tecnologia para sempre?