Vigilancia predictiva: ¿prevenir el crimen o reforzar los sesgos?

• Escrito por:
• Nombre del autor

  Previsión Quantumrun
• 25 de mayo de 2023

El uso de sistemas de inteligencia artificial (IA) para identificar patrones delictivos y sugerir opciones de intervención para prevenir futuras actividades delictivas puede ser una nueva metodología prometedora para los organismos encargados de hacer cumplir la ley. Al analizar datos como informes de delitos, registros policiales y otra información relevante, los algoritmos pueden identificar patrones y tendencias que pueden ser difíciles de detectar para los humanos. Sin embargo, la aplicación de la IA en la prevención del delito plantea importantes cuestiones éticas y prácticas. 

Contexto policial predictivo

La vigilancia predictiva utiliza estadísticas y algoritmos de delitos locales para pronosticar dónde es más probable que ocurran los próximos delitos. Algunos proveedores de servicios policiales predictivos han modificado aún más esta tecnología para predecir réplicas de terremotos y señalar áreas donde la policía debe patrullar con frecuencia para disuadir delitos. Además de los "puntos críticos", la tecnología utiliza datos de arrestos locales para identificar el tipo de individuo que probablemente cometerá delitos. 

El proveedor de software de vigilancia predictiva con sede en EE. UU. Geolitica (anteriormente conocido como PredPol), cuya tecnología está siendo utilizada actualmente por varias entidades encargadas de hacer cumplir la ley, afirma que han eliminado el componente racial en sus conjuntos de datos para eliminar el exceso de vigilancia de las personas de color. Sin embargo, algunos estudios independientes realizados por el sitio web de tecnología Gizmodo y la organización de investigación The Citizen Lab encontraron que los algoritmos en realidad reforzaron los sesgos contra las comunidades vulnerables.

Por ejemplo, un programa policial que usó un algoritmo para predecir quién estaba en riesgo de involucrarse en delitos violentos relacionados con armas enfrentó críticas después de que se reveló que el 85 por ciento de los identificados con las puntuaciones de riesgo más altas eran hombres afroamericanos, algunos con sin antecedentes penales violentos. El programa, llamado Lista de temas estratégicos, estuvo bajo escrutinio en 2017 cuando el Chicago Sun-Times obtuvo y publicó una base de datos de la lista. Este incidente destaca el potencial de sesgo en el uso de la IA en la aplicación de la ley y la importancia de considerar cuidadosamente los posibles riesgos y consecuencias antes de implementar estos sistemas.

Impacto disruptivo

Hay algunos beneficios para la vigilancia predictiva si se hace bien. La prevención del crimen es una gran ventaja, como lo confirmó el Departamento de Policía de Los Ángeles, que dijo que sus algoritmos dieron como resultado una reducción del 19 por ciento de los robos dentro de los puntos críticos indicados. Otro beneficio es la toma de decisiones basada en números, donde los datos dictan patrones, no sesgos humanos. 

Sin embargo, los críticos enfatizan que debido a que estos conjuntos de datos se obtienen de los departamentos de policía locales, que tenían antecedentes de arrestar a más personas de color (en particular, afroamericanos y latinoamericanos), los patrones simplemente resaltan los prejuicios existentes contra estas comunidades. Según la investigación de Gizmodo utilizando datos de Geolitica y varias agencias de aplicación de la ley, las predicciones de Geolitica imitan los patrones de la vida real de vigilancia excesiva e identifican a las comunidades negras y latinas, incluso a las personas dentro de estos grupos sin antecedentes de arresto. 

Las organizaciones de derechos civiles han expresado su preocupación por el uso cada vez mayor de vigilancia policial predictiva sin políticas regulatorias y de gobernanza adecuadas. Algunos han argumentado que detrás de estos algoritmos se están utilizando “datos sucios” (cifras obtenidas a través de prácticas ilegales y corruptas), y las agencias que los utilizan están ocultando estos sesgos detrás del “lavado de tecnología” (afirmando que esta tecnología es objetiva simplemente porque no hay Intervención humana).

Otra crítica que enfrenta la vigilancia predictiva es que a menudo es difícil para el público entender cómo funcionan estos algoritmos. Esta falta de transparencia puede dificultar que los organismos encargados de hacer cumplir la ley rindan cuentas por las decisiones que toman en función de las predicciones de estos sistemas. En consecuencia, muchas organizaciones de derechos humanos están pidiendo la prohibición de las tecnologías policiales predictivas, en particular la tecnología de reconocimiento facial. 

Implicaciones de la vigilancia predictiva

Las implicaciones más amplias de la vigilancia predictiva pueden incluir:

• Los derechos civiles y los grupos marginados cabildean y rechazan el uso generalizado de la vigilancia predictiva, especialmente dentro de las comunidades de color.
• Presión para que el gobierno imponga una política o departamento de supervisión para limitar la forma en que se utiliza la vigilancia predictiva. La legislación futura puede obligar a las agencias policiales a utilizar datos de perfiles de ciudadanos libres de prejuicios de terceros aprobados por el gobierno para entrenar sus respectivos algoritmos policiales predictivos.
• Más agencias de aplicación de la ley en todo el mundo confían en alguna forma de vigilancia predictiva para complementar sus estrategias de patrullaje.
• Gobiernos autoritarios que utilizan versiones modificadas de estos algoritmos para predecir y prevenir protestas ciudadanas y otros disturbios públicos.
• Más países que prohíben las tecnologías de reconocimiento facial en sus agencias de aplicación de la ley bajo la creciente presión del público.
• Aumento de las demandas contra las agencias policiales por el mal uso de algoritmos que condujeron a arrestos ilegales o erróneos.

Preguntas a considerar

• ¿Crees que se debe utilizar la vigilancia predictiva?
• ¿Cómo cree que los algoritmos policiales predictivos cambiarán la forma en que se implementa la justicia?