Police prédictive : prévenir le crime ou renforcer les préjugés ?

• Auteur :
• Nom de l'auteur

  Prévision quantique
• 25 mai 2023

L'utilisation de systèmes d'intelligence artificielle (IA) pour identifier les modèles de criminalité et suggérer des options d'intervention pour prévenir de futures activités criminelles peut être une nouvelle méthodologie prometteuse pour les forces de l'ordre. En analysant des données telles que des rapports de criminalité, des dossiers de police et d'autres informations pertinentes, les algorithmes peuvent identifier des modèles et des tendances qui peuvent être difficiles à détecter pour les humains. Cependant, l'application de l'IA dans la prévention du crime soulève d'importantes questions éthiques et pratiques. 

Contexte de police prédictive

La police prédictive utilise des statistiques et des algorithmes locaux sur la criminalité pour prévoir où les crimes sont les plus susceptibles de se produire ensuite. Certains fournisseurs de services de police prédictifs ont encore modifié cette technologie pour prédire les répliques du tremblement de terre afin d'identifier les zones où la police devrait fréquemment patrouiller pour dissuader les criminels. Outre les «points chauds», la technologie utilise des données d'arrestation locales pour identifier le type d'individu susceptible de commettre des crimes. 

Le fournisseur américain de logiciels de police prédictive Geolitica (anciennement connu sous le nom de PredPol), dont la technologie est actuellement utilisée par plusieurs entités chargées de l'application de la loi, affirme avoir supprimé la composante raciale de leurs ensembles de données pour éliminer la surveillance excessive des personnes de couleur. Cependant, certaines études indépendantes menées par le site Web technologique Gizmodo et l'organisation de recherche The Citizen Lab ont révélé que les algorithmes renforçaient en fait les préjugés contre les communautés vulnérables.

Par exemple, un programme de police qui utilisait un algorithme pour prédire qui risquait d'être impliqué dans des crimes violents liés aux armes à feu a fait l'objet de critiques après qu'il a été révélé que 85 % des personnes identifiées comme ayant les scores de risque les plus élevés étaient des hommes afro-américains, certains avec aucun antécédent criminel violent. Le programme, appelé Strategic Subject List, a fait l'objet d'un examen minutieux en 2017 lorsque le Chicago Sun-Times a obtenu et publié une base de données de la liste. Cet incident met en évidence le potentiel de biais dans l'utilisation de l'IA dans l'application de la loi et l'importance d'examiner attentivement les risques et les conséquences potentiels avant de mettre en œuvre ces systèmes.

Impact perturbateur

La police prédictive présente certains avantages si elle est bien faite. La prévention du crime est un avantage majeur, comme l'a confirmé le département de police de Los Angeles, qui a déclaré que leurs algorithmes ont entraîné une réduction de 19 % des cambriolages dans les points chauds indiqués. Un autre avantage est la prise de décision basée sur les chiffres, où les données dictent des modèles, pas des préjugés humains. 

Cependant, les critiques soulignent que, parce que ces ensembles de données sont obtenus auprès des services de police locaux, qui avaient l'habitude d'arrêter plus de personnes de couleur (en particulier les Afro-Américains et les Latino-Américains), les modèles ne font que mettre en évidence les préjugés existants contre ces communautés. Selon les recherches de Gizmodo utilisant des données de Geolitica et de plusieurs organismes chargés de l'application de la loi, les prédictions de Geolitica imitent les schémas réels de surveillance excessive et d'identification des communautés noires et latino-américaines, même les individus au sein de ces groupes avec zéro dossier d'arrestation. 

Les organisations de défense des droits civiques ont exprimé leurs inquiétudes quant à l'utilisation croissante de la police prédictive sans gouvernance et politiques réglementaires appropriées. Certains ont fait valoir que des «données sales» (chiffres obtenus grâce à des pratiques corrompues et illégales) sont utilisées derrière ces algorithmes, et les agences qui les utilisent cachent ces biais derrière le «tech-washing» (affirmant que cette technologie est objective simplement parce qu'il n'y a pas intervention humaine).

Une autre critique à laquelle est confrontée la police prédictive est qu'il est souvent difficile pour le public de comprendre le fonctionnement de ces algorithmes. Ce manque de transparence peut rendre difficile la responsabilisation des organismes chargés de l'application de la loi pour les décisions qu'ils prennent sur la base des prédictions de ces systèmes. En conséquence, de nombreuses organisations de défense des droits de l'homme demandent l'interdiction des technologies policières prédictives, en particulier la technologie de reconnaissance faciale. 

Implications de la police prédictive

Les implications plus larges de la police prédictive peuvent inclure :

• Les droits civiques et les groupes marginalisés font pression et repoussent l'utilisation généralisée de la police prédictive, en particulier au sein des communautés de couleur.
• Pression pour que le gouvernement impose une politique ou un ministère de surveillance pour limiter l'utilisation de la police prédictive. La future législation pourrait obliger les services de police à utiliser des données de profilage des citoyens impartiales provenant de tiers approuvés par le gouvernement pour former leurs algorithmes de police prédictive respectifs.
• De plus en plus d'organismes chargés de l'application de la loi dans le monde s'appuient sur une certaine forme de police prédictive pour compléter leurs stratégies de patrouille.
• Les gouvernements autoritaires utilisent des versions modifiées de ces algorithmes pour prévoir et prévenir les protestations des citoyens et autres troubles publics.
• De plus en plus de pays interdisent les technologies de reconnaissance faciale dans leurs forces de l'ordre sous la pression croissante du public.
• Augmentation des poursuites contre les services de police pour utilisation abusive d'algorithmes ayant conduit à des arrestations illégales ou erronées.

Questions à considérer

• Pensez-vous que la police prédictive devrait être utilisée?
• Comment pensez-vous que les algorithmes de police prédictive vont changer la façon dont la justice est mise en œuvre ?