Prohibición do recoñecemento facial: a xente está cansa de que lle escaneen a cara

• autor:
• nome do autor

  Previsión de Quantumrun
• Novembro 1, 2022

Resumo de insight

O recoñecemento facial (FR) utilízase en escolas, vivendas e transportes públicos e outras áreas para verificar e supervisar o acceso. Non obstante, algunhas das aplicacións máis preocupantes da tecnoloxía atópanse na aplicación da lei, e os departamentos de policía utilizan bases de datos privadas de fotos para identificar a sospeitosos de delincuentes. Como resultado, algúns gobernos locais prohibiron a tecnoloxía de recoñecemento facial (FRT) e outros están a seguir o exemplo.

O recoñecemento facial prohibe o contexto

Segundo a organización sen ánimo de lucro American Civil Liberties Union (ACLU), a vixilancia facial é a máis perigosa de todas as tecnoloxías dispoñibles para as forzas da orde. Aínda que supón un risco para persoas de todas as razas, a práctica é particularmente prexudicial para as comunidades negras. Os estudosos negros Joy Buolamwini, Deb Raji e Timnit Gebru demostraron que os algoritmos poden ser racistas nas súas investigacións en 2018.

O seu estudo descubriu que os algoritmos clasificaron erróneamente ás mulleres negras case o 35 por cento das veces mentres o facían ben para os homes brancos case todo o tempo. Ademais, a policía dalgúns estados dos Estados Unidos emprega FRT para identificar as persoas que aparecen nas bases de datos de fotogramas. Non obstante, esta práctica recicla os prexuízos raciais pasados ​​mediante a tecnoloxía de vixilancia do século XXI.

Como resultado destas tendencias preocupantes, houbo un crecente sentimento cara á prohibición de FR. En 2020, IBM, Amazon e Microsoft anunciaron que interromperían ou pausarían as súas vendas de FRT á policía estadounidense. Meta anunciou en 2021 que deixaría a súa función FR en Facebook. Os anuncios seguiron ás manifestacións contra a brutalidade policial de 2020 e 2021 nos Estados Unidos. Estas protestas chamaron a atención sobre as ferramentas de vixilancia que as empresas Big Tech venden habitualmente ás forzas da orde. A declaración tamén segue o foco do Congreso sobre o potencial de que se empregue a vixilancia facial durante as protestas, como demostra unha carta enviada por membros do Congreso aos líderes de varias axencias federais en 2020.

Impacto perturbador

Tamén están aumentando as regulacións contra os FRT para uso comercial. Por exemplo, King Country, no estado de Washington, nos EE. UU., converteuse no primeiro condado en prohibir a recollida e o uso de datos de impresións faciales privadas en 2020. Inspirados polas accións do condado, 20 grupos de dereitos civís e humanos enviaron unha carta aberta a federais, estatais e autoridades locais pedíndolles que prohiban o uso empresarial e privado do recoñecemento facial.

A carta advertía que grandes empresas como Amazon, Apple e Uber poderían utilizar esta tecnoloxía para discriminar a minorías e poboacións vulnerables. Mentres tanto, San Francisco xa prohibira o uso de FR polas autoridades e a policía da cidade. Na costa leste, Maine promulgou unha severa prohibición contra os FRT, incluso restrinxindo o uso do goberno a só algunhas circunstancias. En 2021, Baltimore, Maryland, publicou unha ordenanza local que prohibía que a FRT fose empregada por residentes, empresas e goberno local ata decembro de 2022.

Outros territorios implementaron leis que regulan a recollida de datos persoais, incluídas as recollidas polas FRT. O Regulamento Xeral de Protección de Datos (GDPR) da Unión Europea (UE) implementou a protección de datos en Europa proporcionando varios procedementos e requisitos legais para recoller e utilizar información sensible e persoal, incluído o tratamento de datos FRT. En 2019, a Autoridade de Protección de Datos de Suecia administrou a súa primeira multa GDPR tras un programa piloto FR para controlar a asistencia a un instituto.

Mentres tanto, en 2020, a Oficina do Comisionado de Privacidade de Canadá iniciou unha investigación sobre o uso da Royal Canadian Mounted Police do FRT da firma tecnolóxica Clearview AI. A Oficina anunciou unha investigación conxunta cos seus homólogos de Alberta, Columbia Británica e Quebec. Como resultado destas investigacións, Clearview AI deixou de ofrecer todas as solucións FR en Canadá.

Implicacións da prohibición do recoñecemento facial

As implicacións máis amplas das prohibicións FR poden incluír: 

• Máis países que implementan regulamentos FRT para limitar como as empresas recompilan e usan esta información máis aló da verificación da identidade.
• Os críticos esixen aos seus respectivos gobernos que regulen ou prohiban permanentemente o uso de FRT.
• Máis axencias federais, incluídas as forzas da orde e as organizacións militares, seguen usando FRT, a pesar da reacción da comunidade.
• Máis empresas Big Tech deixan de comercializar os seus FRT, abrindo o mercado a medianas empresas especializadas en FRT para cubrir a demanda do mercado.
• Aumento das demandas e multas para as organizacións que intentan utilizar os FRT de forma non ética ou sen o seu consentimento.
• Mellora a concienciación dos consumidores e a demanda de transparencia no uso de datos, o que leva a eleccións máis informadas e un maior control sobre os datos persoais.
• As empresas se adaptan integrando tecnoloxías alternativas e menos intrusivas para a verificación de identidade e a seguridade, afectando os seus modelos operativos.
• Os gobernos desenvolven marcos completos de ética dixital para guiar o uso responsable das tecnoloxías emerxentes, influíndo nos estándares globais.

Preguntas a ter en conta

• Como pode influír a prohibición do recoñecemento facial na forma en que as persoas actúan en público? 
• Cales son as outras formas en que os FRT poden ser potencialmente mal utilizados?