Quantumrun

CRÉDITO DA IMAXE:

iStock

Policía predictiva: previr o crime ou reforzar os prexuízos?

Agora utilízanse algoritmos para predecir onde pode ocorrer un crime a continuación, pero pódese confiar nos datos para seguir sendo obxectivos?

autor:
nome do autor
Previsión de Quantumrun
Pode 25, 2023

Usar sistemas de intelixencia artificial (IA) para identificar patróns de criminalidade e suxerir opcións de intervención para previr futuras actividades delituosas pode ser unha nova metodoloxía prometedora para as axencias de aplicación da lei. Ao analizar datos como informes de delitos, rexistros policiais e outra información relevante, os algoritmos poden identificar patróns e tendencias que poden ser difíciles de detectar para os humanos. Non obstante, a aplicación da IA na prevención do crime suscita algunhas cuestións éticas e prácticas importantes.

Contexto policial predictivo

A policía preditiva utiliza estatísticas e algoritmos locais de delincuencia para prever onde é máis probable que os delitos se produzan a continuación. Algúns provedores de policías preditivos modificaron aínda máis esta tecnoloxía para prever as réplicas dos terremotos para identificar as áreas onde a policía debería patrullar con frecuencia para disuadir os delitos. Ademais dos "puntos quentes", a tecnoloxía usa datos de detención locais para identificar o tipo de individuo susceptible de cometer delitos.

O fornecedor de software de policía preditiva con sede en EE. UU. Geolitica (anteriormente coñecido como PredPol), cuxa tecnoloxía está a ser utilizada actualmente por varias entidades policiais, afirma que eliminaron o compoñente de raza dos seus conxuntos de datos para eliminar o exceso de policía de persoas de cor. Non obstante, algúns estudos independentes realizados polo sitio web de tecnoloxía Gizmodo e a organización de investigación The Citizen Lab descubriron que os algoritmos realmente reforzaban os prexuízos contra as comunidades vulnerables.

Por exemplo, un programa policial que utilizaba un algoritmo para predecir quen corría o risco de involucrarse nun crime violento relacionado con armas foi criticado despois de que se revelase que o 85 por cento dos identificados como os que tiñan as puntuacións de risco máis altas eran homes afroamericanos, algúns con sen antecedentes penales violentos. O programa, chamado Lista de Asuntos Estratéxicos, foi obxecto de escrutinio en 2017 cando o Chicago Sun-Times obtivo e publicou unha base de datos da lista. Este incidente destaca o potencial de sesgo no uso da IA na aplicación da lei e a importancia de considerar coidadosamente os posibles riscos e consecuencias antes de implementar estes sistemas.

Impacto perturbador

Hai algúns beneficios para a policía preditiva se se fai ben. A prevención do crime é unha vantaxe importante, segundo confirmou o Departamento de Policía de Los Ángeles, que dixo que os seus algoritmos resultaron nunha redución do 19 por cento dos roubos nos puntos de acceso indicados. Outro beneficio é a toma de decisións baseada en números, onde os datos ditan patróns, non prexuízos humanos.

Non obstante, os críticos subliñan que, debido a que estes conxuntos de datos obtéñense dos departamentos de policía local, que tiñan antecedentes de arrestar a máis persoas de cor (especialmente afroamericanos e latinoamericanos), os patróns simplemente destacan os prexuízos existentes contra estas comunidades. Segundo a investigación de Gizmodo que utiliza datos de Geolitica e de varias axencias policiais, as predicións de Geolitica imitan os patróns da vida real de control excesivo e identificación de comunidades negras e latinas, incluso individuos dentro destes grupos sen rexistros de arrestos.

As organizacións de dereitos civís expresaron preocupación polo uso cada vez maior da policía preditiva sen políticas de goberno e regulación adecuadas. Algúns argumentaron que se están a utilizar "datos sucios" (cifras obtidas mediante prácticas corruptas e ilegais) detrás destes algoritmos, e as axencias que os usan ocultan estes prexuízos detrás do "lavado de tecnoloxía" (afirmando que esta tecnoloxía é obxectiva simplemente porque non hai intervención humana).

Outra crítica á que se enfronta a policía preditiva é que a miúdo é difícil para o público comprender como funcionan estes algoritmos. Esta falta de transparencia pode dificultar que as axencias de aplicación da lei sexan responsables das decisións que toman en función das predicións destes sistemas. En consecuencia, moitas organizacións de dereitos humanos piden a prohibición das tecnoloxías policiais preditivas, especialmente a tecnoloxía de recoñecemento facial.

Implicacións da policía predictiva

As implicacións máis amplas da policía preditiva poden incluír:

Os dereitos civís e os grupos marxinados que fan lobby e repuxen contra o uso xeneralizado da policía preditiva, especialmente dentro das comunidades de cores.
Presión para que o goberno impoña unha política de supervisión ou un departamento para limitar o uso da policía preditiva. A lexislación futura pode obrigar ás axencias policiais a utilizar datos de perfís cidadáns sen prexuízos de terceiros aprobados polo goberno para adestrar os seus respectivos algoritmos de policía preditiva.
Máis axencias policiais en todo o mundo confían nalgún tipo de policía preditiva para complementar as súas estratexias de patrulla.
Os gobernos autoritarios utilizan versións modificadas destes algoritmos para prever e previr as protestas dos cidadáns e outros disturbios públicos.
Máis países que prohiben as tecnoloxías de recoñecemento facial nas súas axencias policiais baixo a presión crecente do público.
Aumento das demandas contra as axencias policiais por mal uso de algoritmos que provocaron detencións ilícitas ou erróneas.