Ndalimi i njohjes së fytyrës: Njerëzit janë lodhur duke skanuar fytyrat e tyre
Ndalimi i njohjes së fytyrës: Njerëzit janë lodhur duke skanuar fytyrat e tyre
Ndalimi i njohjes së fytyrës: Njerëzit janë lodhur duke skanuar fytyrat e tyre
- Author:
- Nëntor 1, 2022
Përmbledhje e pasqyrës
Njohja e fytyrës (FR) përdoret në shkolla, banesa publike dhe transport, dhe zona të tjera për të verifikuar dhe monitoruar aksesin. Megjithatë, disa nga aplikimet më shqetësuese të teknologjisë janë në zbatimin e ligjit, me departamentet e policisë që përdorin bazat e të dhënave private të fotografive për të identifikuar të dyshuarit për krime. Si rezultat, disa qeveri vendore kanë ndaluar teknologjinë e njohjes së fytyrës (FRT), dhe të tjera po ndjekin shembullin.
Njohja e fytyrës ndalon kontekstin
Sipas Unionit Amerikan të Lirive Civile jofitimprurëse (ACLU), mbikëqyrja e fytyrës është më e rrezikshmja nga të gjitha teknologjitë e disponueshme për zbatimin e ligjit. Edhe pse përbën një rrezik për njerëzit e çdo race, praktika është veçanërisht e dëmshme për komunitetet e zezakëve. Studiuesit me ngjyrë Joy Buolamwini, Deb Raji dhe Timnit Gebru dëshmuan se algoritmet mund të jenë raciste në kërkimin e tyre në 2018.
Studimi i tyre zbuloi se algoritmet i klasifikonin gabimisht gratë e zeza pothuajse 35 për qind të kohës, ndërsa e bënin atë të drejtë për burrat e bardhë pothuajse gjatë gjithë kohës. Për më tepër, policia e disa shteteve amerikane përdor FRT për të identifikuar individët që shfaqen në bazat e të dhënave mugshot. Megjithatë, kjo praktikë riciklon paragjykimet racore të së kaluarës duke përdorur teknologjinë e mbikëqyrjes së shekullit të 21-të.
Si rezultat i këtyre tendencave shqetësuese, ka pasur një ndjenjë në rritje drejt ndalimit të FR. Në vitin 2020, IBM, Amazon dhe Microsoft njoftuan se do të ndërpresin ose ndalojnë shitjet e tyre të FRT-ve në policinë amerikane. Meta njoftoi në 2021 se do të ndalonte funksionin e saj FR në Facebook. Njoftimet pasuan demonstratat kundër brutalitetit policor të 2020 dhe 2021 në SHBA. Këto protesta tërhoqën vëmendjen ndaj mjeteve të mbikëqyrjes që firmat e Big Tech u shesin në mënyrë rutinore organeve të zbatimit të ligjit. Deklarata gjithashtu pason fokusin e Kongresit në mundësinë e përdorimit të mbikëqyrjes së fytyrës gjatë protestave, siç dëshmohet nga një letër dërguar nga anëtarët e Kongresit drejtuesve të disa agjencive federale në vitin 2020.
Ndikim shkatërrues
Ekzistojnë gjithashtu rregullore në rritje kundër FRT-ve për përdorim komercial. Për shembull, King Country në shtetin Uashington, në SHBA, u bë qarku i parë që ndaloi mbledhjen dhe përdorimin e të dhënave private të printimit në vitin 2020. Të frymëzuar nga veprimet e qarkut, 20 grupe civile dhe të të drejtave të njeriut i dërguan një letër të hapur federale, shtetit dhe autoritetet lokale duke u kërkuar atyre të ndalojnë përdorimin e njohjes së fytyrës si për biznes ashtu edhe për atë privat.
Letra paralajmëronte se kompanitë e mëdha si Amazon, Apple dhe Uber mund ta përdorin këtë teknologji për të diskriminuar minoritetet dhe popullatat e cenueshme. Ndërkohë, San Francisko kishte ndaluar tashmë përdorimin e FR nga autoritetet e qytetit dhe policia. Në Bregun Lindor, Maine miratoi një ndalim të ashpër kundër FRT-ve, madje duke kufizuar përdorimin e qeverisë në vetëm disa rrethana. Në vitin 2021, Baltimore, Maryland, lëshoi një urdhëresë lokale që ndalonte FRT të punësohej nga banorët, bizneset dhe qeveria lokale deri në dhjetor 2022.
Territore të tjera kanë zbatuar ligje që rregullojnë mbledhjen e të dhënave personale, duke përfshirë ato të mbledhura nga FRT-të. Rregullorja e Përgjithshme për Mbrojtjen e të Dhënave (GDPR) e Bashkimit Evropian (BE) zbatoi mbrojtjen e të dhënave në Evropë duke ofruar disa procedura dhe kërkesa ligjore për mbledhjen dhe përdorimin e informacionit të ndjeshëm dhe personal, duke përfshirë përpunimin e të dhënave FRT. Në vitin 2019, Autoriteti i Mbrojtjes së të Dhënave të Suedisë administroi gjobën e parë GDPR pas një programi pilot FR për të monitoruar frekuentimin në një shkollë të mesme.
Ndërkohë, në vitin 2020, Zyra e Komisionerit të Privatësisë së Kanadasë filloi një hetim mbi përdorimin e FRT të firmës teknologjike Clearview AI të Policisë Mbretërore Kanadeze. Zyra njoftoi një hetim të përbashkët me homologët e saj në Alberta, British Columbia dhe Quebec. Si rezultat i këtyre hetimeve, Clearview AI pushoi së ofruari të gjitha zgjidhjet FR në Kanada.
Implikimet e ndalimit të njohjes së fytyrës
Implikimet më të gjera të ndalimeve FR mund të përfshijnë:
- Më shumë vende zbatojnë rregulloret FRT për të kufizuar mënyrën se si kompanitë mbledhin dhe përdorin këtë informacion përtej verifikimit të identitetit.
- Kritikët që kërkojnë nga qeveritë e tyre përkatëse të rregullojnë ose ndalojnë përgjithmonë përdorimin e FRT.
- Më shumë agjenci federale, duke përfshirë zbatimin e ligjit dhe organizatat ushtarake, vazhdojnë të përdorin FRT, pavarësisht reagimit të komunitetit.
- Më shumë firma Big Tech ndërpresin komercializimin e FRT-ve të tyre, duke hapur tregun për kompanitë e mesme dhe të specializuara FRT për të plotësuar kërkesën e tregut.
- Rritja e padive dhe gjobave për organizatat që tentojnë të përdorin FRT në mënyrë joetike ose pa pëlqim.
- Rritja e ndërgjegjësimit të konsumatorëve dhe kërkesa për transparencë në përdorimin e të dhënave, duke çuar në zgjedhje më të informuara dhe kontroll më të madh mbi të dhënat personale.
- Bizneset që përshtaten duke integruar teknologji alternative, më pak ndërhyrëse për verifikimin dhe sigurinë e identitetit, duke ndikuar në modelet e tyre operacionale.
- Qeveritë po zhvillojnë korniza gjithëpërfshirëse të etikës dixhitale për të udhëhequr përdorimin e përgjegjshëm të teknologjive në zhvillim, duke ndikuar në standardet globale.
Pyetje që duhen marrë parasysh
- Si mund të ndikojë një ndalim i njohjes së fytyrës në mënyrën se si njerëzit veprojnë në publik?
- Cilat janë mënyrat e tjera që FRT-të mund të keqpërdoren?
Referencat e njohurive
Lidhjet e mëposhtme popullore dhe institucionale u referuan për këtë pasqyrë: