Rozpoznávanie súkromia: Môžu byť online fotografie chránené?

• Autor:
• meno autora

  Predvídavosť Quantumrun
• Novembra 4, 2022

Súhrn prehľadu

Ako sa technológia rozpoznávania tváre (FRT) stáva rozšírenou, rôzne skupiny sa pokúšajú obmedziť jej účinnosť na ochranu súkromia. Aj keď snaha vymanévrovať systémy rozpoznávania tváre nie je vždy možná, výskumníci začali experimentovať so spôsobmi, ako zmiasť online aplikácie, ktoré zoškrabávajú a zhromažďujú fotografie pre motory na rozpoznávanie tváre. Tieto metódy zahŕňajú použitie umelej inteligencie (AI) na pridanie „šumu“ do obrázkov a maskovacieho softvéru.

Rozpoznanie kontextu súkromia

Technológiu rozpoznávania tváre čoraz viac využívajú rôzne sektory, vrátane presadzovania práva, vzdelávania, maloobchodu a letectva, na účely siahajúce od identifikácie zločincov až po sledovanie. Napríklad v New Yorku pomáha rozpoznávanie tváre vyšetrovateľom pri početných zatýkaniach a identifikácii prípadov krádeží identity a podvodov, a to výrazne od roku 2010. Tento nárast používania však tiež vyvoláva otázky o súkromí a etickom používaní takejto technológie. .

V oblasti bezpečnosti hraníc a prisťahovalectva používa ministerstvo vnútornej bezpečnosti USA rozpoznávanie tváre na overenie totožnosti cestujúcich, ktorí vstupujú do krajiny a opúšťajú ju. Robí sa to porovnaním fotografií cestujúcich s existujúcimi obrázkami, ako sú tie, ktoré sa nachádzajú v pasoch. Podobne maloobchodníci prijímajú rozpoznávanie tváre na identifikáciu potenciálnych zlodejov porovnaním tvárí zákazníkov s databázou známych páchateľov. 

Napriek praktickým výhodám rozširujúce sa používanie technológií rozpoznávania tváre vyvolalo obavy o súkromie a súhlas. Pozoruhodným príkladom je prípad Clearview AI, spoločnosti, ktorá nazhromaždila miliardy obrázkov z platforiem sociálnych médií a internetu bez výslovného povolenia na trénovanie svojho systému rozpoznávania tváre. Tento postup poukazuje na tenkú hranicu medzi verejnými a súkromnými doménami, pretože jednotlivci, ktorí zdieľajú svoje fotografie online, majú často obmedzenú kontrolu nad tým, ako sa tieto obrázky používajú. 

Rušivý vplyv

V roku 2020 vedci z Chicagskej univerzity vyvinuli softvér s názvom Fawkes. Fawkes ponúka účinnú metódu ochrany rozpoznávania tváre „maskovaním“ fotografií, aby oklamal systémy hlbokého učenia, a to všetko pri minimálnych zmenách, ktoré nie sú viditeľné pre ľudské oko. Tento nástroj sa zameriava výlučne na systémy, ktoré získavajú osobné obrázky bez povolenia, a neovplyvňuje modely vytvorené s legitímne získanými obrázkami, ako sú tie, ktoré používajú orgány činné v trestnom konaní.

Fawkes je možné stiahnuť z webovej stránky projektu a každý ho môže použiť podľa niekoľkých jednoduchých krokov. Maskovaciemu softvéru trvá spracovanie fotografií len niekoľko chvíľ, kým používatelia môžu pokračovať a uverejniť ich. Softvér je dostupný aj pre operačné systémy Mac a PC.

V roku 2021 technologická spoločnosť Adversa AI so sídlom v Izraeli vytvorila algoritmus, ktorý pridáva k fotografiám tvárí šum alebo menšie zmeny, čo spôsobuje, že systémy skenovania tváre detegujú úplne inú tvár. Algoritmus úspešne nenápadne zmení imidž jednotlivca na niekoho iného podľa vlastného výberu (napr. generálny riaditeľ Adversa AI dokázal oklamať systém vyhľadávania obrázkov, aby ho identifikoval ako Elona Muska z Tesly). Táto technológia je jedinečná, pretože bola vytvorená bez podrobnej znalosti algoritmov cieľového FRT. Jednotlivec teda môže nástroj použiť aj proti iným nástrojom na rozpoznávanie tváre.

Dôsledky uznania súkromia

Širšie dôsledky uznania súkromia môžu zahŕňať: 

• Sociálne médiá a ďalšie platformy založené na obsahu zahŕňajúce technológie na rozpoznávanie súkromia.
• Smartfóny, notebooky a fotoaparáty vrátane programov, ktoré dokážu maskovať fotografie používateľov, čím sa zvyšuje súkromie používateľov.
• Rastúci počet startupov vyvíjajúcich biometrické kamufláže alebo programy na obmedzenie detekcie FRT. 
• Viac národných a miestnych vlád implementujúcich zákony, ktoré obmedzujú alebo zakazujú FRT pri verejnom dohľade.
• Viac žalôb proti systémom rozpoznávania tvárí, ktoré nelegálne zoškrabávajú súkromné ​​obrázky, vrátane toho, že spoločnosti sociálnych médií sú zodpovedné za nedostatok bezpečnostných opatrení.
• Rastúce hnutie občanov a organizácií, ktoré lobujú proti rastúcemu používaniu FRT.

Otázky na zváženie

• Čo možno urobiť na vyváženie používania systémov rozpoznávania tváre?
• Ako používate rozpoznávanie tváre v práci a v každodennom živote?