Polizia predittiva: prevenire la criminalità o rafforzare i pregiudizi?

CREDITO IMMAGINE:
Immagine di credito
iStock

Polizia predittiva: prevenire la criminalità o rafforzare i pregiudizi?

Polizia predittiva: prevenire la criminalità o rafforzare i pregiudizi?

Testo del sottotitolo
Gli algoritmi vengono ora utilizzati per prevedere dove può verificarsi un crimine successivo, ma è possibile che i dati rimangano obiettivi?
    • Autore:
    • Nome dell'autore
      Preveggenza quantistica
    • 25 Maggio 2023

    L'utilizzo di sistemi di intelligenza artificiale (AI) per identificare i modelli di criminalità e suggerire opzioni di intervento per prevenire future attività criminali può essere una nuova metodologia promettente per le forze dell'ordine. Analizzando dati come denunce di crimini, registri della polizia e altre informazioni pertinenti, gli algoritmi possono identificare modelli e tendenze che potrebbero essere difficili da rilevare per gli esseri umani. Tuttavia, l'applicazione dell'IA nella prevenzione della criminalità solleva alcune importanti questioni etiche e pratiche. 

    Contesto di polizia predittiva

    La polizia predittiva utilizza statistiche e algoritmi sulla criminalità locale per prevedere dove è più probabile che si verifichino i crimini successivi. Alcuni fornitori di polizia predittiva hanno ulteriormente modificato questa tecnologia per prevedere le scosse di assestamento del terremoto per individuare le aree in cui la polizia dovrebbe pattugliare frequentemente per scoraggiare i crimini. A parte gli "hotspot", la tecnologia utilizza i dati sugli arresti locali per identificare il tipo di individuo che potrebbe commettere reati. 

    Il fornitore di software di polizia predittiva con sede negli Stati Uniti Geolitica (precedentemente noto come PredPol), la cui tecnologia è attualmente utilizzata da diverse forze dell'ordine, afferma di aver rimosso la componente razziale nei propri set di dati per eliminare l'eccessiva sorveglianza delle persone di colore. Tuttavia, alcuni studi indipendenti condotti dal sito Web tecnologico Gizmodo e dall'organizzazione di ricerca The Citizen Lab hanno scoperto che gli algoritmi hanno effettivamente rafforzato i pregiudizi nei confronti delle comunità vulnerabili.

    Ad esempio, un programma di polizia che utilizzava un algoritmo per prevedere chi era a rischio di essere coinvolto in crimini violenti legati alle armi è stato criticato dopo che è stato rivelato che l'85% di coloro identificati come aventi i punteggi di rischio più alti erano uomini afroamericani, alcuni con nessun precedente di precedenti penali violenti. Il programma, chiamato Strategic Subject List, è stato esaminato nel 2017 quando il Chicago Sun-Times ha ottenuto e pubblicato un database dell'elenco. Questo incidente evidenzia il potenziale pregiudizio nell'utilizzo dell'IA nelle forze dell'ordine e l'importanza di considerare attentamente i potenziali rischi e le conseguenze prima di implementare questi sistemi.

    Impatto dirompente

    Ci sono alcuni vantaggi nella polizia predittiva se fatta bene. La prevenzione del crimine è un grande vantaggio, come confermato dal dipartimento di polizia di Los Angeles, che ha affermato che i loro algoritmi hanno portato a una riduzione del 19% dei furti con scasso all'interno degli hotspot indicati. Un altro vantaggio è il processo decisionale basato sui numeri, in cui i dati dettano modelli, non pregiudizi umani. 

    Tuttavia, i critici sottolineano che poiché questi set di dati sono ottenuti dai dipartimenti di polizia locali, che avevano una storia di arresti di più persone di colore (in particolare afroamericani e latinoamericani), i modelli evidenziano semplicemente pregiudizi esistenti contro queste comunità. Secondo la ricerca di Gizmodo che utilizza i dati di Geolitica e di diverse forze dell'ordine, le previsioni di Geolitica imitano i modelli della vita reale di polizia eccessiva e identificano le comunità nere e latine, anche individui all'interno di questi gruppi con zero record di arresti. 

    Le organizzazioni per i diritti civili hanno espresso preoccupazione per il crescente utilizzo della polizia predittiva senza un'adeguata governance e politiche normative. Alcuni hanno sostenuto che dietro questi algoritmi vengono utilizzati "dati sporchi" (cifre ottenute attraverso pratiche corrotte e illegali) e le agenzie che li utilizzano nascondono questi pregiudizi dietro il "tech-washing" (sostenendo che questa tecnologia è oggettiva semplicemente perché non c'è intervento umano).

    Un'altra critica affrontata dalla polizia predittiva è che spesso è difficile per il pubblico capire come funzionano questi algoritmi. Questa mancanza di trasparenza può rendere difficile ritenere le forze dell'ordine responsabili delle decisioni che prendono sulla base delle previsioni di questi sistemi. Di conseguenza, molte organizzazioni per i diritti umani chiedono il divieto delle tecnologie predittive della polizia, in particolare la tecnologia di riconoscimento facciale. 

    Implicazioni della polizia predittiva

    Le implicazioni più ampie della polizia predittiva possono includere:

    • Diritti civili e gruppi emarginati che fanno pressioni e respingono l'uso diffuso della polizia predittiva, specialmente all'interno delle comunità di colore.
    • Pressione affinché il governo imponga una politica o un dipartimento di supervisione per limitare il modo in cui viene utilizzata la polizia predittiva. La legislazione futura potrebbe costringere le agenzie di polizia a utilizzare dati di profilazione dei cittadini privi di pregiudizi provenienti da terze parti approvate dal governo per addestrare i rispettivi algoritmi di polizia predittiva.
    • Più forze dell'ordine in tutto il mondo si affidano a qualche forma di polizia predittiva per integrare le loro strategie di pattugliamento.
    • Governi autoritari che utilizzano versioni modificate di questi algoritmi per prevedere e prevenire le proteste dei cittadini e altri disordini pubblici.
    • Sempre più paesi vietano le tecnologie di riconoscimento facciale nelle loro forze dell'ordine sotto la crescente pressione del pubblico.
    • Aumento delle azioni legali contro le agenzie di polizia per l'uso improprio di algoritmi che hanno portato ad arresti illegali o errati.

    Domande da considerare

    • Pensi che la polizia predittiva dovrebbe essere usata?
    • In che modo pensi che gli algoritmi di polizia predittiva cambieranno il modo in cui viene implementata la giustizia?

    Riferimenti di approfondimento

    I seguenti collegamenti popolari e istituzionali sono stati referenziati per questa intuizione:

    Brennan Center for Justice Spiegazione della polizia predittiva