Prædiktivt politiarbejde: Forebyggelse af kriminalitet eller forstærkning af skævheder?

• Forfatter:
• Forfatter navn

  Quantumrun Foresight
• Maj 25, 2023

Brug af kunstig intelligens (AI)-systemer til at identificere kriminalitetsmønstre og foreslå interventionsmuligheder for at forhindre fremtidig kriminel aktivitet kan være en lovende ny metode for retshåndhævende myndigheder. Ved at analysere data såsom kriminalitetsrapporter, politiregistre og anden relevant information kan algoritmer identificere mønstre og tendenser, som kan være svære for mennesker at opdage. Anvendelsen af ​​kunstig intelligens til forebyggelse af kriminalitet rejser imidlertid nogle vigtige etiske og praktiske spørgsmål. 

Prædiktiv politisammenhæng

Forudsigende politiarbejde bruger lokale kriminalitetsstatistikker og algoritmer til at forudsige, hvor der er størst sandsynlighed for, at forbrydelser finder sted næste gang. Nogle udbydere af prædiktiv politi har yderligere modificeret denne teknologi for at forudsige jordskælv efterskælv for at udpege områder, hvor politiet ofte bør patruljere for at afskrække forbrydelser. Bortset fra "hotspots" bruger teknologien lokale arrestationsdata til at identificere den type individ, der sandsynligvis vil begå forbrydelser. 

Den amerikanske udbyder af prædiktiv politisoftware Geolitica (tidligere kendt som PredPol), hvis teknologi i øjeblikket bliver brugt af adskillige retshåndhævende myndigheder, hævder, at de har fjernet race-komponenten i deres datasæt for at eliminere overpolitisering af farvede mennesker. Nogle uafhængige undersøgelser udført af tech-webstedet Gizmodo og forskningsorganisationen The Citizen Lab fandt dog, at algoritmerne faktisk forstærkede skævheder mod sårbare samfund.

For eksempel blev et politiprogram, der brugte en algoritme til at forudsige, hvem der var i risiko for at blive involveret i voldelig våbenrelateret kriminalitet, blevet kritiseret, efter at det blev afsløret, at 85 procent af dem, der blev identificeret som havende den højeste risikoscore, var afroamerikanske mænd, nogle med ingen tidligere voldelig straffeattest. Programmet, kaldet Strategic Subject List, blev undersøgt i 2017, da Chicago Sun-Times indhentede og offentliggjorde en database med listen. Denne hændelse fremhæver potentialet for skævhed ved brug af kunstig intelligens i retshåndhævelse og vigtigheden af ​​nøje at overveje de potentielle risici og konsekvenser, før disse systemer implementeres.

Forstyrrende påvirkning

Der er nogle fordele ved prædiktiv politiarbejde, hvis det gøres rigtigt. Forebyggelse af kriminalitet er en stor fordel, som bekræftet af Los Angeles Police Department, som sagde, at deres algoritmer resulterede i en 19 procent reduktion af indbrud inden for de angivne hotspots. En anden fordel er talbaseret beslutningstagning, hvor data dikterer mønstre, ikke menneskelige skævheder. 

Kritikere understreger dog, at fordi disse datasæt er indhentet fra lokale politiafdelinger, som havde en historie med at arrestere flere farvede mennesker (især afroamerikanere og latinamerikanere), fremhæver mønstrene blot eksisterende skævheder mod disse samfund. Ifølge Gizmodos forskning, der bruger data fra Geolitica og adskillige retshåndhævende myndigheder, efterligner Geoliticas forudsigelser virkelige mønstre af overpoliti og identifikation af sorte og latino-samfund, selv individer inden for disse grupper med nul anholdelsesregistre. 

Borgerrettighedsorganisationer har udtrykt bekymring over den stigende brug af prædiktiv politiarbejde uden ordentlig styring og reguleringspolitikker. Nogle har hævdet, at "beskidte data" (tal opnået gennem korrupte og ulovlige praksisser) bliver brugt bag disse algoritmer, og bureauer, der bruger dem, skjuler disse skævheder bag "tech-washing" (påstår, at denne teknologi er objektiv, simpelthen fordi der ikke er nogen menneskelig indgriben).

En anden kritik af prædiktiv politiarbejde er, at det ofte er svært for offentligheden at forstå, hvordan disse algoritmer fungerer. Denne mangel på gennemsigtighed kan gøre det vanskeligt at holde retshåndhævende myndigheder ansvarlige for de beslutninger, de træffer baseret på forudsigelserne fra disse systemer. Derfor opfordrer mange menneskerettighedsorganisationer til et forbud mod prædiktive polititeknologier, især ansigtsgenkendelsesteknologi. 

Implikationer af prædiktiv politiarbejde

Bredere implikationer af prædiktiv politiarbejde kan omfatte:

• Borgerrettigheder og marginaliserede grupper lobbyer og skubber tilbage mod den udbredte brug af prædiktiv politiarbejde, især inden for farvede samfund.
• Pres for regeringen til at indføre en tilsynspolitik eller -afdeling for at begrænse, hvordan prædiktiv politiarbejde bruges. Fremtidig lovgivning kan tvinge politimyndigheder til at bruge partiske borgerprofileringsdata fra statsgodkendte tredjeparter til at træne deres respektive prædiktive politialgoritmer.
• Flere retshåndhævende myndigheder verden over er afhængige af en form for prædiktiv politiarbejde for at supplere deres patruljeringsstrategier.
• Autoritære regeringer bruger modificerede versioner af disse algoritmer til at forudsige og forhindre borgerprotester og andre offentlige forstyrrelser.
• Flere lande forbyder ansigtsgenkendelsesteknologier i deres retshåndhævende myndigheder under stigende pres fra offentligheden.
• Øgede retssager mod politimyndigheder for misbrug af algoritmer, der førte til ulovlige eller fejlagtige anholdelser.

Spørgsmål at overveje

• Mener du, at prædiktiv politi skal bruges?
• Hvordan tror du, at prædiktive politialgoritmer vil ændre, hvordan retfærdighed implementeres?