Ansigtsgenkendelsesforbud: Folk er trætte af at få scannet deres ansigter

• Forfatter:
• Forfatter navn

  Quantumrun Foresight
• November 1, 2022

Oversigt over indsigt

Ansigtsgenkendelse (FR) bruges i skoler, offentlige boliger og transport og andre områder til at verificere og overvåge adgang. Men nogle af de mest bekymrende anvendelser af teknologien er inden for retshåndhævelse, hvor politiafdelinger bruger private databaser med fotos til at identificere mistænkte for kriminelle. Som et resultat har nogle lokale regeringer forbudt ansigtsgenkendelsesteknologi (FRT), og andre følger trop.

Ansigtsgenkendelse forbyder kontekst

Ifølge nonprofit American Civil Liberties Union (ACLU) er ansigtsovervågning den farligste af alle de teknologier, der er tilgængelige for retshåndhævelse. Selvom det udgør en risiko for mennesker af enhver race, er praksisen særligt skadelig for sorte samfund. Sorte lærde Joy Buolamwini, Deb Raji og Timnit Gebru beviste, at algoritmer kunne være racistiske i deres forskning i 2018.

Deres undersøgelse viste, at algoritmer misklassificerede sorte kvinder næsten 35 procent af tiden, mens de gjorde det rigtigt for hvide mænd næsten hele tiden. Derudover bruger nogle amerikanske staters politi FRT'er til at identificere personer, der optræder i mugshot-databaser. Men denne praksis genbruger tidligere racefordomme ved hjælp af det 21. århundredes overvågningsteknologi.

Som et resultat af disse bekymrende tendenser har der været en stigende holdning til at forbyde FR. I 2020 annoncerede IBM, Amazon og Microsoft, at de ville indstille eller sætte deres salg af FRT'er på pause til det amerikanske politi. Meta annoncerede i 2021, at de ville stoppe sin FR-funktion på Facebook. Udmeldingerne fulgte efter demonstrationerne mod politiets brutalitet i 2020 og 2021 i USA. Disse protester gjorde opmærksom på de overvågningsværktøjer, Big Tech-firmaer rutinemæssigt sælger til retshåndhævelse. Erklæringen følger også Kongressens fokus på muligheden for, at ansigtsovervågning kan anvendes under protester, som det fremgår af et brev sendt af medlemmer af Kongressen til ledere af flere føderale agenturer i 2020.

Forstyrrende påvirkning

Der er også stigende regler mod FRT'er til kommerciel brug. For eksempel blev King Country i staten Washington i USA det første amt, der forbød indsamling og brug af privat faceprint-data i 2020. Inspireret af amtets handlinger sendte 20 borger- og menneskerettighedsgrupper et åbent brev til føderale, statslige og lokale myndigheder beder dem om at forbyde både forretningsmæssig og privat brug af ansigtsgenkendelse.

Brevet advarede om, at store virksomheder som Amazon, Apple og Uber muligvis vil bruge denne teknologi til at diskriminere minoriteter og sårbare befolkningsgrupper. I mellemtiden havde San Francisco allerede forbudt brug af FR af byens myndigheder og politi. På østkysten vedtog Maine et hårdt forbud mod FRT'er, der endda begrænsede regeringens brug til kun nogle få omstændigheder. I 2021 udgav Baltimore, Maryland, en lokal bekendtgørelse, der forbød FRT at være ansat af beboere, virksomheder og lokale myndigheder indtil december 2022.

Andre territorier har implementeret love, der regulerer indsamling af personoplysninger, herunder dem, der er indsamlet af FRT'er. Den Europæiske Unions (EU) General Data Protection Regulation (GDPR) implementerede databeskyttelse i Europa ved at levere adskillige juridiske procedurer og krav til indsamling og brug af følsomme og personlige oplysninger, herunder FRT-databehandling. I 2019 administrerede den svenske databeskyttelsesmyndighed sin første GDPR-bøde efter et FR-pilotprogram for at overvåge deltagelse i en gymnasieskole.

I mellemtiden begyndte Canadas Office of the Privacy Commissioner i 2020 en undersøgelse af Royal Canadian Mounted Polices brug af teknologifirmaet Clearview AI's FRT. Kontoret annoncerede en fælles undersøgelse med sine kolleger i Alberta, British Columbia og Quebec. Som et resultat af disse undersøgelser ophørte Clearview AI med at tilbyde alle FR-løsninger i Canada.

Konsekvenser af forbud mod ansigtsgenkendelse

Bredere implikationer af FR-forbud kan omfatte: 

• Flere lande implementerer FRT-regler for at begrænse, hvordan virksomheder indsamler og bruger disse oplysninger ud over identitetsbekræftelse.
• Kritikere, der kræver, at deres respektive regeringer regulerer eller permanent forbyder brug af FRT.
• Flere føderale agenturer, herunder retshåndhævelse og militære organisationer, fortsætter med at bruge FRT på trods af tilbageslag fra samfundet.
• Flere store teknologivirksomheder stopper med kommercialiseringen af ​​deres FRT'er, hvilket åbner markedet for mellemstore, specialiserede FRT-virksomheder, der kan opfylde markedets efterspørgsel.
• Øgede retssager og bøder for organisationer, der forsøger at bruge FRT'er uetisk eller uden samtykke.
• Forbedret forbrugerbevidsthed og krav om gennemsigtighed i databrug, hvilket fører til mere informerede valg og større kontrol over personlige data.
• Virksomheder tilpasser sig ved at integrere alternative, mindre påtrængende teknologier til identitetsbekræftelse og sikkerhed, hvilket påvirker deres driftsmodeller.
• Regeringer udvikler omfattende digitale etiske rammer for at vejlede ansvarlig brug af nye teknologier, som påvirker globale standarder.

Spørgsmål at overveje

• Hvordan kan et forbud mod ansigtsgenkendelse påvirke, hvordan folk handler i offentligheden? 
• Hvad er de andre måder, hvorpå FRT'er potentielt kan misbruges?