Ferbod op gesichtsherkenning: minsken binne wurch fan it scannen fan har gesichten

• Skriuwer:
• Namme fan auteur

  Quantumrun Foresight
• Novimber 1, 2022

Ynsjoch gearfetting

Gesichtsherkenning (FR) wurdt brûkt yn skoallen, iepenbiere húsfesting en ferfier, en oare gebieten om tagong te kontrolearjen en te kontrolearjen. Guon fan 'e meast soarchlike applikaasjes fan' e technology binne lykwols yn wet hanthavenjen, mei plysje-ôfdielingen dy't privee databases fan foto's brûke om kriminele fertochten te identifisearjen. As gefolch hawwe guon lokale oerheden gesichtsherkenningstechnology (FRT) ferbean, en oaren folgje dit pak.

Gesichtsherkenning ferbiedt kontekst

Neffens de non-profit American Civil Liberties Union (ACLU) is gesichtstafersjoch de gefaarlikste fan alle technologyen dy't beskikber binne foar wet hanthavenjen. Ek al is it in risiko foar minsken fan elke ras, de praktyk is benammen skealik foar swarte mienskippen. Swarte gelearden Joy Buolamwini, Deb Raji en Timnit Gebru bewiisden dat algoritmen rasistysk koenen wêze yn har ûndersyk yn 2018.

Harren stúdzje fûn dat algoritmen misclassified Swarte froulju hast 35 prosint fan de tiid wylst getting it rjocht foar wite manlju hast de hiele tiid. Derneist brûke guon plysjes fan 'e Amerikaanske steaten FRT's om persoanen te identifisearjen dy't ferskine yn mugshot-databases. Dizze praktyk recycleart lykwols rasiale foaroardielen mei help fan 21e-ieuske tafersjochtechnology.

As gefolch fan dizze soarchlike trends is d'r in tanimmend gefoel west foar it ferbieden fan FR. Yn 2020 kundige IBM, Amazon en Microsoft oan dat se har ferkeap fan FRT's oan 'e Amerikaanske plysje sille stopje of pauze. Meta kundige yn 2021 oan dat it syn FR-funksje op Facebook soe stopje. De oankundigingen folgen de demonstraasjes fan anty-plysjebrutaliteit yn 2020 en 2021 yn 'e FS. Dizze protesten rôpen omtinken foar de tafersjochynstruminten dy't Big Tech-bedriuwen regelmjittich ferkeapje oan wet hanthavening. De ferklearring folget ek de fokus fan it Kongres op it potensjeel foar gesichtstafersjoch om te brûken tidens protesten, sa't bliken docht út in brief stjoerd troch leden fan Kongres oan lieders fan ferskate federale ynstânsjes yn 2020.

Disruptive ynfloed

D'r binne ek tanimmende regeljouwing tsjin FRT's foar kommersjeel gebrûk. Bygelyks, King Country yn 'e steat Washington, yn' e FS, waard de earste provinsje dy't it sammeljen en gebrûk fan privee faceprint-gegevens ferbean yn 2020. Ynspirearre troch de aksjes fan 'e provinsje, stjoerden 20 boarger- en minskerjochtengroepen in iepen brief oan federale, steats- en pleatslike autoriteiten dy't har freegje om sawol saaklik as partikulier gebrûk fan gesichtsherkenning te ferbieden.

De brief warskôge dat grutte bedriuwen lykas Amazon, Apple en Uber dizze technology kinne brûke om minderheden en kwetsbere populaasjes te diskriminearjen. Underwilens hie San Francisco al it gebrûk fan FR troch stedsautoriteiten en plysje ferbean. Oan 'e East Coast ynstelde Maine in hurd ferbod tsjin FRT's, en beheine sels oerheidsgebrûk ta mar in pear omstannichheden. Yn 2021 brocht Baltimore, Marylân, in pleatslike oardering frij dy't FRT ferbean om te wurkjen troch ynwenners, bedriuwen en pleatslike oerheden oant desimber 2022.

Oare gebieten hawwe wetten ymplementearre dy't it sammeljen fan persoanlike gegevens regelje, ynklusyf dy sammele troch FRT's. De General Data Protection Regulation (GDPR) fan 'e Jeropeeske Uny (EU) ymplementearre gegevensbeskerming yn Jeropa troch ferskate juridyske prosedueres en easken te leverjen foar it sammeljen en brûken fan gefoelige en persoanlike ynformaasje, ynklusyf FRT-gegevensferwurking. Yn 2019 administrearre de Sweedske Data Protection Authority har earste GDPR-boete nei in FR-pilotprogramma om it bywêzen op in middelbere skoalle te kontrolearjen.

Underwilens, yn 2020, begon it Kanadeeske kantoar fan 'e privacykommissaris in ûndersyk nei it gebrûk fan'e Royal Canadian Mounted Police fan techbedriuw Clearview AI's FRT. It kantoar kundige in mienskiplik ûndersyk oan mei syn kollega's yn Alberta, Britsk-Kolumbia en Quebec. As gefolch fan dizze ûndersiken stoppe Clearview AI it oanbieden fan alle FR-oplossingen yn Kanada.

Gefolgen fan ferbod op gesichtsherkenning

Bredere gefolgen fan FR-ferbannen kinne omfetsje: 

• Mear lannen dy't FRT-regeljouwing ymplementearje om te beheinen hoe't bedriuwen dizze ynformaasje sammelje en brûke bûten identiteitsferifikaasje.
• Kritisy dy't easkje dat har respektive regearingen FRT-gebrûk regelje of permanint ferbiede.
• Mear federale ynstânsjes, ynklusyf wet hanthaveningsbelied en militêre organisaasjes, trochgean te brûken FRT, nettsjinsteande mienskip backlash.
• Mear Big Tech-bedriuwen stopje de kommersjalisaasje fan har FRT's, en iepenje de merk foar middelgrutte, spesjalistyske FRT-bedriuwen om merkfraach te foljen.
• Ferhege rjochtsaken en boetes foar organisaasjes dy't besykje FRT's unethysk of sûnder tastimming te brûken.
• Ferbettere konsumintbewustwêzen en fraach nei transparânsje yn gegevensgebrûk, wat liedt ta mear ynformeare karren en gruttere kontrôle oer persoanlike gegevens.
• Bedriuwen oanpasse troch alternative, minder yngripende technologyen te yntegrearjen foar identiteitsferifikaasje en feiligens, dy't ynfloed hawwe op har operasjonele modellen.
• Oerheden ûntwikkelje wiidweidige digitale etykkaders om it ferantwurde gebrûk fan opkommende technologyen te begelieden, en beynfloedzje wrâldwide noarmen.

Fragen om te beskôgje

• Hoe kin in ferbod op gesichtsherkenning ynfloed hawwe op hoe't minsken yn it iepenbier hannelje? 
• Wat binne de oare manieren wêrop FRT's mooglik misbrûkt kinne wurde?