Zákaz rozpoznávání obličeje: Lidé jsou unaveni skenováním jejich obličejů

• Autor:
• jméno autora

  Quantumrun Foresight
• Listopadu 1, 2022

Shrnutí statistik

Rozpoznávání obličeje (FR) se používá ve školách, veřejném bydlení a dopravě a dalších oblastech k ověření a sledování přístupu. Některé z nejvíce znepokojujících aplikací této technologie jsou však v oblasti vymáhání práva, přičemž policejní oddělení používají soukromé databáze fotografií k identifikaci podezřelých z trestné činnosti. V důsledku toho některé místní vlády zakázaly technologii rozpoznávání obličeje (FRT) a další ji následují.

Rozpoznávání obličeje zakazuje kontext

Podle neziskové organizace American Civil Liberties Union (ACLU) je sledování obličeje nejnebezpečnější ze všech technologií, které mají orgány činné v trestním řízení k dispozici. I když to představuje riziko pro lidi všech ras, tato praxe je zvláště škodlivá pro černošské komunity. Černošští učenci Joy Buolamwini, Deb Raji a Timnit Gebru ve svém výzkumu v roce 2018 dokázali, že algoritmy mohou být rasistické.

Jejich studie zjistila, že algoritmy chybně klasifikovaly černošky téměř 35 procent času, zatímco u bílých mužů to bylo téměř vždy správné. Policie některých států USA navíc používá FRT k identifikaci jednotlivců, kteří se objevují v databázích výstřelů. Tato praxe však recykluje minulé rasové předsudky pomocí sledovací technologie 21. století.

V důsledku těchto znepokojivých trendů došlo k rostoucímu sentimentu směrem k zákazu FR. V roce 2020 IBM, Amazon a Microsoft oznámily, že ukončí nebo pozastaví prodej FRT americké policii. Meta v roce 2021 oznámila, že ukončí svou funkci FR na Facebooku. Oznámení následovala po demonstracích proti policejní brutalitě v USA v letech 2020 a 2021. Tyto protesty upozornily na sledovací nástroje, které firmy Big Tech běžně prodávají orgánům činným v trestním řízení. Prohlášení také sleduje zaměření Kongresu na potenciál sledování obličeje, který má být použit během protestů, jak dokládá dopis poslaný členy Kongresu vůdcům několika federálních agentur v roce 2020.

Rušivý dopad

Zvyšují se také předpisy proti FRT pro komerční použití. Například King Country ve státě Washington v USA se v roce 2020 stala prvním krajem, který zakázal shromažďování a používání soukromých dat o otisku obličeje. místní úřady je žádají, aby zakázaly jak obchodní, tak soukromé používání rozpoznávání obličeje.

Dopis varoval, že velké společnosti jako Amazon, Apple a Uber mohou tuto technologii využít k diskriminaci menšin a zranitelného obyvatelstva. Mezitím už San Francisco zakázalo používání FR městskými úřady a policií. Na východním pobřeží, Maine uzákonil tvrdý zákaz FRT, dokonce omezil vládní použití jen na několik okolností. V roce 2021 vydalo Baltimore v Marylandu místní nařízení zakazující zaměstnávání FRT obyvateli, podniky a místní samosprávou až do prosince 2022.

Jiná území zavedla zákony upravující shromažďování osobních údajů, včetně údajů shromažďovaných FRT. Obecné nařízení Evropské unie (EU) o ochraně osobních údajů (GDPR) zavedlo ochranu údajů v Evropě tím, že poskytlo několik právních postupů a požadavků pro shromažďování a používání citlivých a osobních informací, včetně zpracování údajů FRT. V roce 2019 uložil švédský úřad na ochranu údajů svou první pokutu GDPR po pilotním programu ve FR, který sledoval docházku na střední školu.

Mezitím v roce 2020 kanadský úřad komisaře pro ochranu osobních údajů zahájil vyšetřování toho, jak kanadská královská jízdní policie používá FRT technologické firmy Clearview AI. Úřad oznámil společné vyšetřování se svými protějšky v Albertě, Britské Kolumbii a Quebecu. V důsledku těchto vyšetřování společnost Clearview AI přestala nabízet všechna řešení FR v Kanadě.

Důsledky zákazu rozpoznávání obličeje

Širší důsledky zákazů FR mohou zahrnovat: 

• Více zemí zavádí předpisy FRT k omezení způsobu, jakým společnosti shromažďují a používají tyto informace nad rámec ověření identity.
• Kritici požadují, aby jejich příslušné vlády regulovaly nebo trvale zakazovaly používání FRT.
• Více federálních agentur, včetně vymáhání práva a vojenských organizací, nadále používá FRT, navzdory odporu komunity.
• Více velkých technologických firem ukončuje komercializaci svých FRT a otevírá trh pro středně velké specializované společnosti FRT, aby naplnily poptávku na trhu.
• Zvýšené soudní procesy a pokuty pro organizace, které se pokoušejí používat FRT neeticky nebo bez souhlasu.
• Zvýšená informovanost spotřebitelů a poptávka po transparentnosti při používání dat, což vede k informovanějšímu výběru a větší kontrole nad osobními údaji.
• Podniky se přizpůsobují integrací alternativních, méně rušivých technologií pro ověřování identity a zabezpečení, což ovlivňuje jejich provozní modely.
• Vlády vyvíjející komplexní rámce digitální etiky, které by vedly k odpovědnému používání nově vznikajících technologií, ovlivňujících globální standardy.

Otázky k zamyšlení

• Jak může zákaz rozpoznávání obličeje ovlivnit to, jak se lidé chovají na veřejnosti? 
• Jaké jsou další způsoby, jak mohou být FRT potenciálně zneužity?