Foarsizzend polysje: kriminaliteit foarkommen of fersterkjen fan foaroardielen?

Ofbyldingskredyt:
Image credit
iStock

Foarsizzend polysje: kriminaliteit foarkommen of fersterkjen fan foaroardielen?

Foarsizzend polysje: kriminaliteit foarkommen of fersterkjen fan foaroardielen?

Subheading tekst
Algoritmen wurde no brûkt om te foarsizzen wêr't in misdied folgjende kin barre, mar kinne de gegevens fertroud wurde om objektyf te bliuwen?
    • Skriuwer:
    • Namme fan auteur
      Quantumrun Foresight
    • Mei 25, 2023

    It brûken fan keunstmjittige yntelliginsje (AI) systemen om kriminaliteitspatroanen te identifisearjen en yntervinsjeopsjes foar te stellen om takomstige kriminele aktiviteit te foarkommen kin in kânsrike nije metodyk wêze foar ynstânsjes foar wet hanthavening. Troch gegevens te analysearjen lykas kriminaliteitsrapporten, plysjeregisters en oare relevante ynformaasje, kinne algoritmen patroanen en trends identifisearje dy't foar minsken lestich wêze kinne om te ûntdekken. De tapassing fan AI yn kriminaliteitprevinsje ropt lykwols wat wichtige etyske en praktyske fragen op. 

    Foarsizzende plysjekontekst

    Foarsizzend polysje brûkt lokale kriminaliteitstatistiken en algoritmen om te foarsizzen wêr't misdieden it meast wierskynlik sille foarkomme. Guon oanbieders fan foarsizzend plysjeburo hawwe dizze technology fierder wizige om ierdbeving-netzskokken te foarsizzen om gebieten te identifisearjen wêr't plysje faaks patrolje moat om misdieden te foarkommen. Njonken "hotspots", brûkt de technyk lokale arrestaasjegegevens om it type yndividu te identifisearjen dat wierskynlik misdieden sil plegen. 

    Geolitica (eartiids bekend as PredPol), waans technyk op it stuit wurdt brûkt troch ferskate wet hanthaveningsbelied entiteiten, beweart dat se de race-komponint hawwe fuortsmiten yn har datasets om te eliminearjen oer-plysje fan minsken fan kleur. Guon ûnôfhinklike stúdzjes útfierd troch de tech-webside Gizmodo en ûndersyksorganisaasje The Citizen Lab fûnen lykwols dat de algoritmen eins fersterkingen tsjin kwetsbere mienskippen fersterken.

    Bygelyks, in plysjeprogramma dat in algoritme brûkte om te foarsizzen wa't it risiko hie om belutsen te wurden by gewelddiedige gewearrelatearre kriminaliteit, krige krityk nei't bliken dien wie dat 85 prosint fan dyjingen dy't identifisearre waarden as it hawwen fan de heechste risiko-skoares wiene Afro-Amerikaanske manlju, guon mei gjin eardere gewelddiedich strafregister. It programma, neamd de Strategic Subject List, kaam ûnder kontrôle yn 2017 doe't de Chicago Sun-Times in database fan 'e list krige en publisearre. Dit ynsidint markearret it potensjeel foar bias by it brûken fan AI yn wet hanthavenjen en it belang fan soarchfâldich beskôgje de potinsjele risiko's en gefolgen foardat de ymplemintaasje fan dizze systemen.

    Disruptive ynfloed

    D'r binne wat foardielen foar foarsizzend polysje as goed dien. Previnsje fan kriminaliteit is in grut foardiel, lykas befêstige troch de Los Angeles Police Department, dy't sei dat harren algoritmen resultearre yn in 19 prosint reduksje fan ynbraken binnen de oantsjutte hotspots. In oar foardiel is nûmer-basearre beslútfoarming, wêrby't gegevens patroanen diktearje, net minsklike foaroardielen. 

    Kritisy beklamje lykwols dat, om't dizze datasets wurde krigen fan pleatslike plysje-ôfdielingen, dy't in skiednis hiene fan it arrestearjen fan mear kleurde minsken (benammen Afro-Amerikanen en Latynsk-Amerikanen), de patroanen allinich besteande foaroardielen tsjin dizze mienskippen markearje. Neffens it ûndersyk fan Gizmodo mei help fan gegevens fan Geolitica en ferskate wet hanthaveningsbelied, Geolitica syn foarsizzings mimike echte libben patroanen fan overpolicing en identifisearjen Swarte en Latino mienskippen, sels yndividuen binnen dizze groepen mei nul arrestaasje records. 

    Boargerrjochtenorganisaasjes hawwe har soargen útsprutsen oer it tanimmend gebrûk fan foarsizzend polysje sûnder goed bestjoer en regeljouwingbelied. Guon hawwe beweare dat "smoarge gegevens" (sifers krigen troch korrupte en yllegale praktiken) wurde brûkt efter dizze algoritmen, en ynstânsjes dy't se brûke ferbergje dizze foaroardielen efter "tech-washing" (beweare dat dizze technology objektyf is gewoan om't d'r gjin minsklike yntervinsje).

    In oare krityk tsjinoer foarsizzend polysje is dat it faak lestich is foar it publyk om te begripen hoe't dizze algoritmen wurkje. Dit tekoart oan transparânsje kin it lestich meitsje om ynstânsjes foar wet hanthavenjen ferantwurdlik te hâlden foar de besluten dy't se nimme op basis fan 'e foarsizzingen fan dizze systemen. Dêrtroch roppe in protte minskerjochtenorganisaasjes it ferbod op foar foarsizzende plysjetechnologyen, benammen technology foar gesichtsherkenning. 

    Gefolgen fan foarsizzend polysje

    Bredere gefolgen fan foarsizzend polysje kinne omfetsje:

    • Boargerrjochten en marginalisearre groepen lobbyje en drukke werom tsjin it wiidferspraat gebrûk fan foarsizzend polysje, foaral binnen kleurgemeenten.
    • Druk foar de oerheid om in tafersjochbelied of ôfdieling op te lizzen om te beheinen hoe't foarsizzend polysje wurdt brûkt. Takomstige wetjouwing kin plysje-ynstânsjes twinge om biasfrije boargerprofilearringsgegevens te brûken fan troch de regearing goedkarde tredden om har respektivelike foarsizzende polysjealgoritmen op te trenen.
    • Mear wet hanthaveningsbelied ynstânsjes wrâldwiid fertrouwe op ien of oare foarm fan foarsizzend polysje te foljen harren patrolling strategyen.
    • Autoritêre regearingen dy't oanpaste ferzjes fan dizze algoritmen brûke om boargerprotesten en oare iepenbiere steuringen te foarsizzen en te foarkommen.
    • Mear lannen ferbiede technologyen foar gesichtsherkenning yn har wet hanthaveningsburo's ûnder tanimmende druk fan it publyk.
    • Tanommen rjochtsaken tsjin plysje-ynstânsjes foar misbrûk fan algoritmen dy't liede ta yllegale of ferkearde arrestaasjes.

    Fragen om te beskôgje

    • Tinke jo dat foarsizzend polysje moat wurde brûkt?
    • Hoe tinke jo dat foarsizzende polysjealgoritmen sille feroarje hoe't gerjochtigheid wurdt ymplementearre?

    Ynsjoch ferwizings

    De folgjende populêre en ynstitúsjonele keppelings waarden ferwiisd foar dit ynsjoch:

    Brennan Sintrum foar Justysje Predictive Plysje útlein