Policia predictiva: prevenir el crim o reforçar els biaixos?

• autor:
• nom de l'autor

  Previsió de Quantumrun
• Pot 25, 2023

L'ús de sistemes d'intel·ligència artificial (IA) per identificar patrons de delinqüència i suggerir opcions d'intervenció per prevenir futures activitats delictives pot ser una nova metodologia prometedora per a les agències d'aplicació de la llei. Mitjançant l'anàlisi de dades com ara informes de crims, registres policials i altra informació rellevant, els algorismes poden identificar patrons i tendències que poden ser difícils de detectar per als humans. Tanmateix, l'aplicació de la IA en la prevenció del crim planteja algunes qüestions ètiques i pràctiques importants. 

Context policial predictiu

La policia predictiva utilitza estadístiques i algorismes locals de delinqüència per preveure on és més probable que es produeixin els delictes a continuació. Alguns proveïdors de policia predictiva han modificat encara més aquesta tecnologia per predir les rèpliques dels terratrèmols per identificar les zones on la policia hauria de patrullar amb freqüència per dissuadir els delictes. A part dels "punts calents", la tecnologia utilitza dades d'arrest locals per identificar el tipus d'individu susceptible de cometre delictes. 

El proveïdor de programari de policia predictiva dels Estats Units Geolitica (abans conegut com a PredPol), la tecnologia del qual està sent utilitzada actualment per diverses entitats policials, afirma que han eliminat el component de la raça dels seus conjunts de dades per eliminar la sobrevigilància de les persones de color. Tanmateix, alguns estudis independents realitzats pel lloc web tecnològic Gizmodo i l'organització d'investigació The Citizen Lab van trobar que els algorismes en realitat van reforçar els biaixos contra les comunitats vulnerables.

Per exemple, un programa policial que utilitzava un algorisme per predir qui correva el risc d'estar involucrat en delictes violents relacionats amb armes va fer front a crítiques després que es revelés que el 85 per cent dels que s'identificava que tenien les puntuacions de risc més altes eren homes afroamericans, alguns amb sense antecedents penals violents anteriors. El programa, anomenat Strategic Subject List, va ser objecte d'escrutini el 2017 quan el Chicago Sun-Times va obtenir i publicar una base de dades de la llista. Aquest incident posa de manifest el potencial de biaix en l'ús de la IA en l'aplicació de la llei i la importància de considerar acuradament els possibles riscos i conseqüències abans d'implementar aquests sistemes.

Impacte disruptiu

Hi ha alguns beneficis per a la policia predictiva si es fa bé. La prevenció de la delinqüència és un avantatge important, segons ha confirmat el departament de policia de Los Angeles, que va dir que els seus algorismes van donar lloc a una reducció del 19 per cent dels robatoris dins dels punts d'accés indicats. Un altre benefici és la presa de decisions basada en números, on les dades dicten patrons, no biaixos humans. 

No obstant això, els crítics subratllen que, com que aquests conjunts de dades s'obtenen dels departaments de policia locals, que tenien un historial d'arrest de més persones de color (especialment afroamericans i llatinoamericans), els patrons només destaquen els biaixos existents contra aquestes comunitats. Segons la investigació de Gizmodo que utilitza dades de Geolitica i de diverses agències d'aplicació de la llei, les prediccions de Geolitica imiten els patrons de la vida real d'excés de policia i d'identificació de comunitats negres i llatines, fins i tot individus d'aquests grups amb registres d'arrest zero. 

Les organitzacions de drets civils han expressat la seva preocupació per l'ús creixent de la policia predictiva sense polítiques de govern i regulació adequades. Alguns han argumentat que les "dades brutes" (xifres obtingudes mitjançant pràctiques corruptes i il·legals) s'estan utilitzant darrere d'aquests algorismes, i les agències que els utilitzen estan amagant aquests biaixos darrere del "rentat de tecnologia" (afirmant que aquesta tecnologia és objectiva simplement perquè no hi ha intervenció humana).

Una altra crítica que s'enfronta a la policia predictiva és que sovint és difícil per al públic entendre com funcionen aquests algorismes. Aquesta manca de transparència pot dificultar la responsabilitat de les forces de l'ordre per les decisions que prenen a partir de les prediccions d'aquests sistemes. En conseqüència, moltes organitzacions de drets humans demanen la prohibició de les tecnologies policials predictives, especialment la tecnologia de reconeixement facial. 

Implicacions de la policia predictiva

Les implicacions més àmplies de la policia predictiva poden incloure:

• Els drets civils i els grups marginats fan pressió i es retracten contra l'ús generalitzat de la policia predictiva, especialment dins de les comunitats de color.
• Pressió per al govern per imposar una política de supervisió o un departament per limitar com s'utilitza la policia predictiva. La legislació futura pot obligar les agències policials a utilitzar dades de perfils de ciutadans lliures de biaix de tercers aprovats pel govern per entrenar els seus respectius algorismes de policia predictiva.
• Més agències d'aplicació de la llei a tot el món confien en algun tipus de policia predictiva per complementar les seves estratègies de patrulla.
• Els governs autoritaris utilitzen versions modificades d'aquests algorismes per predir i prevenir les protestes dels ciutadans i altres disturbis públics.
• Més països que prohibeixen les tecnologies de reconeixement facial a les seves agències d'aplicació de la llei sota la pressió creixent del públic.
• Augment de les demandes contra les agències policials per un mal ús d'algoritmes que van provocar detencions il·legals o errònies.

Preguntes a tenir en compte

• Creus que s'hauria d'utilitzar la policia predictiva?
• Com creus que els algorismes de policia predictiva canviaran la manera en què s'implementa la justícia?