Prediktívna polícia: Predchádzanie zločinu alebo posilňovanie predsudkov?

• Autor:
• meno autora

  Predvídavosť Quantumrun
• Môže 25, 2023

Používanie systémov umelej inteligencie (AI) na identifikáciu vzorcov kriminality a navrhovanie možností intervencie na predchádzanie budúcej trestnej činnosti môže byť sľubnou novou metodikou pre orgány činné v trestnom konaní. Analýzou údajov, ako sú hlásenia o trestných činoch, policajné záznamy a ďalšie relevantné informácie, môžu algoritmy identifikovať vzory a trendy, ktoré môžu byť pre ľudí ťažké odhaliť. Aplikácia AI v prevencii kriminality však vyvoláva niektoré dôležité etické a praktické otázky. 

Prediktívny policajný kontext

Prediktívna polícia využíva miestne štatistiky a algoritmy kriminality na predpovedanie, kde sa najbližšie páchajú zločiny. Niektorí poskytovatelia prediktívnej polície túto technológiu ďalej upravili na predpovedanie následných otrasov po zemetrasení, aby určili oblasti, kde by polícia mala často hliadkovať, aby odradila od zločinov. Okrem „hotspotov“ táto technológia používa miestne údaje o zatknutí na identifikáciu typu jednotlivca, ktorý pravdepodobne spácha zločin. 

Americký poskytovateľ prediktívneho policajného softvéru Geolitica (predtým známy ako PredPol), ktorého technológiu v súčasnosti používa niekoľko orgánov činných v trestnom konaní, tvrdí, že odstránil rasový komponent do svojich dátových súborov, aby eliminoval nadmernú kontrolu ľudí inej farby pleti. Niektoré nezávislé štúdie uskutočnené technologickou webovou stránkou Gizmodo a výskumnou organizáciou The Citizen Lab však zistili, že algoritmy v skutočnosti posilnili predsudky voči zraniteľným komunitám.

Napríklad policajný program, ktorý využíval algoritmus na predpovedanie toho, komu hrozí, že sa zapojí do násilného zločinu súvisiaceho so zbraňami, čelil kritike po tom, čo sa zistilo, že 85 percent tých, ktorí majú najvyššie rizikové skóre, boli Afroamerickí muži, niektorí s žiadny predchádzajúci násilný trestný register. Program s názvom Strategic Subject List sa dostal pod kontrolu v roku 2017, keď Chicago Sun-Times získal a zverejnil databázu tohto zoznamu. Tento incident poukazuje na potenciál zaujatosti pri používaní AI pri presadzovaní práva a na dôležitosť dôkladného zváženia potenciálnych rizík a dôsledkov pred implementáciou týchto systémov.

Rušivý vplyv

Ak sa robí správne, má prediktívna polícia určité výhody. Prevencia kriminality je hlavnou výhodou, čo potvrdilo aj policajné oddelenie v Los Angeles, ktoré uviedlo, že ich algoritmy viedli k 19-percentnému zníženiu vlámaní v rámci uvedených hotspotov. Ďalšou výhodou je rozhodovanie založené na číslach, kde údaje určujú vzorce, nie ľudské predsudky. 

Kritici však zdôrazňujú, že keďže tieto súbory údajov pochádzajú z miestnych policajných oddelení, ktoré v minulosti zatýkali viac ľudí inej farby pleti (najmä Afroameričanov a Latinskoameričanov), vzory iba zvýrazňujú existujúce predsudky voči týmto komunitám. Podľa výskumu spoločnosti Gizmodo s použitím údajov od spoločnosti Geolitica a niekoľkých orgánov činných v trestnom konaní predpovede spoločnosti Geolitica napodobňujú skutočné vzorce overovania a identifikácie černošských a latinskoamerických komunít, dokonca aj jednotlivcov v rámci týchto skupín s nulovými záznamami o zatknutí. 

Organizácie pre občianske práva vyjadrili obavy z rastúceho využívania prediktívnej polície bez riadnej správy a regulačnej politiky. Niektorí tvrdili, že za týmito algoritmami sa používajú „špinavé údaje“ (čísla získané korupčnými a nezákonnými praktikami) a agentúry, ktoré ich používajú, skrývajú tieto predsudky za „vymývanie technológií“ (tvrdia, že táto technológia je objektívna jednoducho preto, že neexistuje ľudský zásah).

Ďalšou kritikou, ktorej čelí prediktívna polícia, je, že pre verejnosť je často ťažké pochopiť, ako tieto algoritmy fungujú. Tento nedostatok transparentnosti môže sťažiť, aby orgány činné v trestnom konaní boli zodpovedné za rozhodnutia, ktoré prijímajú na základe predpovedí týchto systémov. V súlade s tým mnohé organizácie pre ľudské práva požadujú zákaz prediktívnych policajných technológií, najmä technológie rozpoznávania tváre. 

Dôsledky prediktívnej polície

Širšie dôsledky prediktívnej polície môžu zahŕňať:

• Občianske práva a marginalizované skupiny lobujú a bránia sa rozšírenému používaniu prediktívnej polície, najmä v rámci farebných komunít.
• Tlak na vládu, aby zaviedla politiku dohľadu alebo ministerstvo s cieľom obmedziť používanie prediktívnej polície. Budúca legislatíva môže prinútiť policajné orgány, aby používali nezaujaté údaje o profilovaní občanov od vládou schválených tretích strán na trénovanie ich príslušných prediktívnych policajných algoritmov.
• Viac orgánov činných v trestnom konaní na celom svete sa spolieha na nejakú formu prediktívnej polície, ktorá dopĺňa ich stratégie hliadkovania.
• Autoritárske vlády používajú upravené verzie týchto algoritmov na predpovedanie a prevenciu občianskych protestov a iných verejných nepokojov.
• Viac krajín zakazuje technológie rozpoznávania tváre vo svojich orgánoch činných v trestnom konaní pod rastúcim tlakom verejnosti.
• Zvýšený počet žalôb proti policajným orgánom za zneužitie algoritmov, ktoré viedli k nezákonnému alebo chybnému zatknutiu.

Otázky na zváženie

• Myslíte si, že by sa mala využívať prediktívna polícia?
• Ako si myslíte, že prediktívne policajné algoritmy zmenia spôsob implementácie spravodlivosti?