Privacidade de reconhecimento: As fotos online podem ser protegidas?

• Autor:
• Nome do autor

  Previsão Quantumrun
• 4 de novembro de 2022

Resumo do insight

À medida que a tecnologia de reconhecimento facial (FRT) se generaliza, vários grupos têm tentado limitar a sua eficácia para preservar a privacidade. Embora nem sempre seja possível tentar superar os sistemas de reconhecimento facial, os pesquisadores começaram a experimentar maneiras de confundir aplicativos online que coletam e coletam fotos para mecanismos de reconhecimento facial. Esses métodos incluem o uso de inteligência artificial (IA) para adicionar “ruído” às imagens e software de camuflagem.

Contexto de privacidade de reconhecimento

A tecnologia de reconhecimento facial é cada vez mais utilizada por vários setores, incluindo aplicação da lei, educação, varejo e aviação, para fins que vão desde a identificação de criminosos até a vigilância. Por exemplo, em Nova Iorque, o reconhecimento facial tem sido fundamental para ajudar os investigadores a efetuar inúmeras detenções e a identificar casos de roubo de identidade e fraude, de forma significativa desde 2010. No entanto, este aumento na utilização também levanta questões sobre a privacidade e a utilização ética de tal tecnologia. .

Na segurança das fronteiras e na imigração, o Departamento de Segurança Interna dos EUA utiliza o reconhecimento facial para verificar as identidades dos viajantes que entram e saem do país. Isto é feito comparando as fotografias dos viajantes com imagens existentes, como as encontradas nos passaportes. Da mesma forma, os retalhistas estão a adotar o reconhecimento facial para identificar potenciais ladrões, comparando os rostos dos clientes com uma base de dados de infratores conhecidos. 

Apesar dos benefícios práticos, o uso crescente de tecnologias de reconhecimento facial suscitou preocupações sobre privacidade e consentimento. Um exemplo notável é o caso da Clearview AI, uma empresa que acumulou milhares de milhões de imagens de plataformas de redes sociais e da Internet, sem permissão explícita, para treinar o seu sistema de reconhecimento facial. Esta prática realça a linha ténue entre os domínios público e privado, uma vez que os indivíduos que partilham as suas fotografias online têm muitas vezes um controlo limitado sobre a forma como essas imagens são utilizadas. 

Impacto disruptivo

Em 2020, um software chamado Fawkes foi desenvolvido por pesquisadores da Universidade de Chicago. Fawkes oferece um método eficaz de proteção de reconhecimento facial, “ocultando” fotos para enganar sistemas de aprendizagem profunda, ao mesmo tempo em que faz alterações mínimas que não são perceptíveis ao olho humano. A ferramenta visa apenas sistemas que coletam imagens pessoais sem permissão e não afeta modelos construídos com imagens obtidas legitimamente, como aquelas usadas pelas autoridades policiais.

O Fawkes pode ser baixado do site do projeto e qualquer pessoa pode usá-lo seguindo alguns passos simples. O software de camuflagem leva apenas alguns minutos para processar as fotos antes que os usuários possam publicá-las. O software também está disponível para sistemas operacionais Mac e PC.

Em 2021, a empresa de tecnologia Adversa AI, com sede em Israel, criou um algoritmo que adiciona ruído ou pequenas alterações às fotos de rostos, o que faz com que os sistemas de digitalização facial detectem um rosto completamente diferente. O algoritmo muda sutilmente com sucesso a imagem de um indivíduo para outra pessoa de sua escolha (por exemplo, o CEO da Adversa AI foi capaz de enganar um sistema de busca de imagens para identificá-lo como Elon Musk da Tesla). Essa tecnologia é única porque foi criada sem conhecimento detalhado dos algoritmos do FRT de destino. Assim, um indivíduo também pode usar a ferramenta contra outros mecanismos de reconhecimento facial.

Implicações da privacidade de reconhecimento

Implicações mais amplas de privacidade de reconhecimento podem incluir: 

• Mídias sociais e outras plataformas baseadas em conteúdo que incorporam tecnologias de privacidade de reconhecimento.
• Smartphones, laptops e câmeras, incluindo programas que podem ocultar as fotos dos usuários, aumentando a privacidade dos usuários.
• Um número crescente de startups desenvolvendo camuflagem biométrica ou programas para restringir a detecção FRT. 
• Mais governos nacionais e locais implementando leis que restringem ou proíbem FRTs na vigilância pública.
• Mais ações judiciais contra sistemas de reconhecimento facial que extraem ilegalmente imagens privadas, incluindo a responsabilização de empresas de mídia social por sua falta de medidas de segurança.
• Um movimento crescente de cidadãos e organizações que fazem lobby contra o uso crescente de FRTs.

Questões a considerar

• O que pode ser feito para equilibrar o uso de sistemas de reconhecimento facial?
• Como você usa o reconhecimento facial no trabalho e em sua vida diária?