Predictive policing: criminaliteit voorkomen of vooroordelen versterken?

• Auteur:
• auteursnaam

  Quantumrun-prognose
• 25 mei 2023

Het gebruik van kunstmatige-intelligentiesystemen (AI) om misdaadpatronen te identificeren en interventieopties voor te stellen om toekomstige criminele activiteiten te voorkomen, kan een veelbelovende nieuwe methodologie zijn voor wetshandhavingsinstanties. Door gegevens zoals misdaadrapporten, politiedossiers en andere relevante informatie te analyseren, kunnen algoritmen patronen en trends identificeren die voor mensen moeilijk te detecteren zijn. De toepassing van AI bij misdaadpreventie roept echter enkele belangrijke ethische en praktische vragen op. 

Voorspellende politiecontext

Predictive policing maakt gebruik van lokale misdaadstatistieken en algoritmen om te voorspellen waar misdaden het meest waarschijnlijk zullen plaatsvinden. Sommige aanbieders van voorspellende politie hebben deze technologie verder aangepast om naschokken van aardbevingen te voorspellen om gebieden aan te wijzen waar de politie regelmatig moet patrouilleren om misdaden te ontmoedigen. Afgezien van "hotspots", gebruikt de technologie lokale arrestatiegegevens om het type persoon te identificeren dat waarschijnlijk misdaden zal plegen. 

De in de VS gevestigde softwareleverancier voor voorspellende politie Geolitica (voorheen bekend als PredPol), wiens technologie momenteel wordt gebruikt door verschillende wetshandhavingsinstanties, beweert dat ze de race-component in hun datasets hebben verwijderd om overmatig toezicht op mensen van kleur te elimineren. Uit enkele onafhankelijke onderzoeken, uitgevoerd door de technische website Gizmodo en onderzoeksorganisatie The Citizen Lab, bleek echter dat de algoritmen de vooroordelen tegen kwetsbare gemeenschappen juist versterkten.

Zo kreeg een politieprogramma dat een algoritme gebruikte om te voorspellen wie het risico liep betrokken te raken bij gewelddadige wapencriminaliteit, kritiek nadat bleek dat 85 procent van de personen met de hoogste risicoscores Afro-Amerikaanse mannen waren, sommigen met geen eerder gewelddadig strafblad. Het programma, de Strategic Subject List genaamd, kwam in 2017 onder de loep toen de Chicago Sun-Times een database van de lijst verkreeg en publiceerde. Dit incident benadrukt het potentieel voor vooringenomenheid bij het gebruik van AI bij wetshandhaving en het belang van het zorgvuldig overwegen van de potentiële risico's en gevolgen voordat deze systemen worden geïmplementeerd.

Disruptieve impact

Predictive policing heeft enkele voordelen als het goed wordt gedaan. Misdaadpreventie is een groot voordeel, zoals bevestigd door de politie van Los Angeles, die zei dat hun algoritmen resulteerden in een vermindering van 19 procent van inbraken binnen de aangegeven hotspots. Een ander voordeel is op cijfers gebaseerde besluitvorming, waarbij gegevens patronen dicteren, niet menselijke vooroordelen. 

Critici benadrukken echter dat, omdat deze datasets zijn verkregen van lokale politiediensten, die in het verleden meer gekleurde mensen arresteerden (met name Afro-Amerikanen en Latijns-Amerikanen), de patronen alleen maar de bestaande vooroordelen tegen deze gemeenschappen benadrukken. Volgens Gizmodo's onderzoek met behulp van gegevens van Geolitica en verschillende wetshandhavingsinstanties, bootsen de voorspellingen van Geolitica real-life patronen na van overpolitie en identificatie van zwarte en Latino-gemeenschappen, zelfs individuen binnen deze groepen zonder arrestatiegegevens. 

Burgerrechtenorganisaties hebben hun bezorgdheid geuit over het toenemende gebruik van predictive policing zonder deugdelijk bestuur en regelgevend beleid. Sommigen hebben betoogd dat achter deze algoritmen "vuile gegevens" (cijfers verkregen door corrupte en illegale praktijken) worden gebruikt, en bureaus die ze gebruiken, verbergen deze vooroordelen achter "tech-washing" (beweren dat deze technologie objectief is, simpelweg omdat er geen menselijke interventie).

Een ander punt van kritiek waarmee predictive policing wordt geconfronteerd, is dat het voor het publiek vaak moeilijk is om te begrijpen hoe deze algoritmen werken. Dit gebrek aan transparantie kan het moeilijk maken om wetshandhavingsinstanties verantwoordelijk te houden voor de beslissingen die zij nemen op basis van de voorspellingen van deze systemen. Dienovereenkomstig pleiten veel mensenrechtenorganisaties voor het verbieden van voorspellende politietechnologieën, met name gezichtsherkenningstechnologie. 

Implicaties van predictive policing

Bredere implicaties van predictive policing kunnen zijn:

• Burgerrechten en gemarginaliseerde groepen die lobbyen en terugdringen tegen het wijdverbreide gebruik van predictive policing, vooral binnen gekleurde gemeenschappen.
• Druk op de overheid om een ​​toezichtbeleid of -afdeling op te leggen om het gebruik van voorspellende politiezorg te beperken. Toekomstige wetgeving kan politiebureaus dwingen om bias-vrije burgerprofileringsgegevens van door de overheid goedgekeurde derde partijen te gebruiken om hun respectieve voorspellende politie-algoritmen te trainen.
• Meer wetshandhavingsinstanties over de hele wereld vertrouwen op een of andere vorm van voorspellend politiewerk als aanvulling op hun patrouillestrategieën.
• Autoritaire regeringen gebruiken aangepaste versies van deze algoritmen om burgerprotesten en andere openbare ongeregeldheden te voorspellen en te voorkomen.
• Meer landen verbieden gezichtsherkenningstechnologieën in hun wetshandhavingsinstanties onder toenemende druk van het publiek.
• Meer rechtszaken tegen politiebureaus wegens misbruik van algoritmen die hebben geleid tot onwettige of foutieve arrestaties.

Vragen om te overwegen

• Vindt u dat predictive policing moet worden gebruikt?
• Hoe denk je dat voorspellende politie-algoritmen de manier waarop gerechtigheid wordt geïmplementeerd zullen veranderen?