Policiamento preditivo: prevenir o crime ou reforçar preconceitos?

• Autor:
• Nome do autor

  Previsão Quantumrun
• 25 de maio de 2023

O uso de sistemas de inteligência artificial (IA) para identificar padrões de crime e sugerir opções de intervenção para prevenir futuras atividades criminosas pode ser uma nova metodologia promissora para as agências de aplicação da lei. Ao analisar dados como relatórios criminais, registros policiais e outras informações relevantes, os algoritmos podem identificar padrões e tendências que podem ser difíceis de serem detectados pelos humanos. No entanto, a aplicação da IA ​​na prevenção do crime levanta algumas questões éticas e práticas importantes. 

Contexto de policiamento preditivo

O policiamento preditivo usa estatísticas e algoritmos criminais locais para prever onde é mais provável que os crimes ocorram a seguir. Alguns provedores de policiamento preditivo modificaram ainda mais essa tecnologia para prever tremores secundários de terremotos para identificar áreas onde a polícia deve patrulhar com frequência para impedir crimes. Além dos “pontos de acesso”, a tecnologia usa dados de prisões locais para identificar o tipo de indivíduo com probabilidade de cometer crimes. 

A Geolitica, fornecedora de software de policiamento preditivo com sede nos EUA (anteriormente conhecida como PredPol), cuja tecnologia está sendo usada atualmente por várias entidades policiais, afirma que removeu o componente racial de seus conjuntos de dados para eliminar o policiamento excessivo de pessoas de cor. No entanto, alguns estudos independentes conduzidos pelo site de tecnologia Gizmodo e pela organização de pesquisa The Citizen Lab descobriram que os algoritmos na verdade reforçavam preconceitos contra comunidades vulneráveis.

Por exemplo, um programa policial que usava um algoritmo para prever quem corria o risco de se envolver em crimes violentos relacionados a armas enfrentou críticas depois que foi revelado que 85% dos identificados como tendo as pontuações de risco mais altas eram homens afro-americanos, alguns com sem antecedentes criminais violentos. O programa, chamado Lista de Assuntos Estratégicos, foi investigado em 2017, quando o Chicago Sun-Times obteve e publicou um banco de dados da lista. Este incidente destaca o potencial de viés no uso de IA na aplicação da lei e a importância de considerar cuidadosamente os possíveis riscos e consequências antes de implementar esses sistemas.

Impacto disruptivo

Existem alguns benefícios no policiamento preditivo, se bem feito. A prevenção do crime é uma grande vantagem, conforme confirmado pelo Departamento de Polícia de Los Angeles, que disse que seus algoritmos resultaram em uma redução de 19% nos roubos nos pontos críticos indicados. Outro benefício é a tomada de decisão baseada em números, em que os dados ditam padrões, não preconceitos humanos. 

No entanto, os críticos enfatizam que, como esses conjuntos de dados são obtidos dos departamentos de polícia locais, que têm um histórico de prender mais pessoas de cor (particularmente afro-americanos e latino-americanos), os padrões apenas destacam os preconceitos existentes contra essas comunidades. De acordo com a pesquisa do Gizmodo usando dados da Geolitica e de várias agências de aplicação da lei, as previsões da Geolitica imitam padrões da vida real de superpoliciamento e identificação de comunidades negras e latinas, mesmo indivíduos dentro desses grupos sem registros de prisão. 

Organizações de direitos civis expressaram preocupação com o uso crescente de policiamento preditivo sem governança adequada e políticas regulatórias. Alguns argumentaram que “dados sujos” (números obtidos por meio de práticas corruptas e ilegais) estão sendo usados ​​por trás desses algoritmos, e as agências que os usam estão escondendo esses vieses por trás da “lavagem tecnológica” (alegando que essa tecnologia é objetiva simplesmente porque não há intervenção humana).

Outra crítica enfrentada pelo policiamento preditivo é que muitas vezes é difícil para o público entender como esses algoritmos funcionam. Essa falta de transparência pode dificultar a responsabilização das agências de aplicação da lei pelas decisões que tomam com base nas previsões desses sistemas. Consequentemente, muitas organizações de direitos humanos estão pedindo a proibição de tecnologias policiais preditivas, particularmente a tecnologia de reconhecimento facial. 

Implicações do policiamento preditivo

Implicações mais amplas do policiamento preditivo podem incluir:

• Direitos civis e grupos marginalizados fazendo lobby e lutando contra o uso generalizado de policiamento preditivo, especialmente em comunidades de cor.
• Pressão para que o governo imponha uma política ou departamento de supervisão para limitar como o policiamento preditivo é usado. A legislação futura pode forçar as agências policiais a usar dados de perfis de cidadãos livres de preconceito de terceiros aprovados pelo governo para treinar seus respectivos algoritmos de policiamento preditivo.
• Mais agências de aplicação da lei em todo o mundo contam com alguma forma de policiamento preditivo para complementar suas estratégias de patrulhamento.
• Governos autoritários usam versões modificadas desses algoritmos para prever e prevenir protestos de cidadãos e outras perturbações públicas.
• Mais países banindo tecnologias de reconhecimento facial em suas agências de aplicação da lei sob pressão crescente do público.
• Aumento de ações judiciais contra agências policiais por uso indevido de algoritmos que levaram a prisões ilegais ou errôneas.

Questões a considerar

• Você acha que o policiamento preditivo deve ser usado?
• Como você acha que os algoritmos de policiamento preditivo mudarão a forma como a justiça é implementada?