Προληπτική αστυνόμευση: Πρόληψη του εγκλήματος ή ενίσχυση προκαταλήψεων;

• Συγγραφέας:
• όνομα συγγραφέα

  Quantumrun Foresight
• 25 Μαΐου 2023

Η χρήση συστημάτων τεχνητής νοημοσύνης (AI) για τον εντοπισμό προτύπων εγκλήματος και την πρόταση επιλογών παρέμβασης για την πρόληψη μελλοντικών εγκληματικών δραστηριοτήτων μπορεί να είναι μια πολλά υποσχόμενη νέα μεθοδολογία για τις υπηρεσίες επιβολής του νόμου. Αναλύοντας δεδομένα όπως αναφορές εγκλημάτων, αστυνομικά αρχεία και άλλες σχετικές πληροφορίες, οι αλγόριθμοι μπορούν να εντοπίσουν μοτίβα και τάσεις που μπορεί να είναι δύσκολο να εντοπιστούν από τον άνθρωπο. Ωστόσο, η εφαρμογή της τεχνητής νοημοσύνης στην πρόληψη του εγκλήματος εγείρει ορισμένα σημαντικά ηθικά και πρακτικά ερωτήματα. 

Προγνωστικό πλαίσιο αστυνόμευσης

Η προγνωστική αστυνόμευση χρησιμοποιεί στατιστικές και αλγόριθμους τοπικής εγκληματικότητας για να προβλέψει πού είναι πιο πιθανό να συμβούν εγκλήματα στη συνέχεια. Ορισμένοι πάροχοι αστυνόμευσης πρόβλεψης έχουν τροποποιήσει περαιτέρω αυτήν την τεχνολογία για να προβλέψουν τους μετασεισμούς για να εντοπίσουν περιοχές όπου η αστυνομία πρέπει να περιπολεί συχνά για να αποτρέψει εγκλήματα. Εκτός από τα "hotspots", η τεχνολογία χρησιμοποιεί δεδομένα τοπικών συλλήψεων για να προσδιορίσει τον τύπο του ατόμου που είναι πιθανό να διαπράξει εγκλήματα. 

Η εταιρεία παροχής λογισμικού πρόβλεψης αστυνόμευσης Geolitica (παλαιότερα γνωστή ως PredPol), με έδρα τις ΗΠΑ, η τεχνολογία της οποίας χρησιμοποιείται επί του παρόντος από πολλές οντότητες επιβολής του νόμου, ισχυρίζεται ότι έχουν αφαιρέσει το στοιχείο φυλής στα σύνολα δεδομένων τους για να εξαλείψουν την υπερβολική αστυνόμευση των έγχρωμων ατόμων. Ωστόσο, ορισμένες ανεξάρτητες μελέτες που διεξήχθησαν από τον τεχνολογικό ιστότοπο Gizmodo και τον ερευνητικό οργανισμό The Citizen Lab διαπίστωσαν ότι οι αλγόριθμοι στην πραγματικότητα ενίσχυσαν τις προκαταλήψεις κατά των ευάλωτων κοινοτήτων.

Για παράδειγμα, ένα αστυνομικό πρόγραμμα που χρησιμοποίησε έναν αλγόριθμο για να προβλέψει ποιος κινδύνευε να εμπλακεί σε βίαιο έγκλημα που σχετίζεται με όπλα αντιμετώπισε κριτική αφού αποκαλύφθηκε ότι το 85 τοις εκατό όσων είχαν τα υψηλότερα σκορ κινδύνου ήταν Αφροαμερικανοί άνδρες, ορισμένοι με κανένα προηγούμενο βίαιο ποινικό μητρώο. Το πρόγραμμα, που ονομάζεται Strategic Subject List, τέθηκε υπό έλεγχο το 2017 όταν η Chicago Sun-Times απέκτησε και δημοσίευσε μια βάση δεδομένων της λίστας. Αυτό το περιστατικό υπογραμμίζει τη δυνατότητα μεροληψίας στη χρήση της τεχνητής νοημοσύνης στην επιβολή του νόμου και τη σημασία της προσεκτικής εξέτασης των πιθανών κινδύνων και συνεπειών πριν από την εφαρμογή αυτών των συστημάτων.

Αποδιοργανωτικός αντίκτυπος

Υπάρχουν ορισμένα οφέλη από την προγνωστική αστυνόμευση εάν γίνει σωστά. Η πρόληψη του εγκλήματος είναι ένα σημαντικό πλεονέκτημα, όπως επιβεβαιώθηκε από το Αστυνομικό Τμήμα του Λος Άντζελες, το οποίο είπε ότι οι αλγόριθμοί τους είχαν ως αποτέλεσμα τη μείωση κατά 19 τοις εκατό των διαρρήξεων στα υποδεικνυόμενα hotspot. Ένα άλλο πλεονέκτημα είναι η λήψη αποφάσεων βάσει αριθμών, όπου τα δεδομένα υπαγορεύουν πρότυπα, όχι ανθρώπινες προκαταλήψεις. 

Ωστόσο, οι επικριτές τονίζουν ότι επειδή αυτά τα σύνολα δεδομένων προέρχονται από τοπικά αστυνομικά τμήματα, τα οποία είχαν ιστορικό συλλήψεων περισσότερων έγχρωμων (ιδιαίτερα Αφροαμερικανών και Λατινοαμερικανών), τα μοτίβα απλώς υπογραμμίζουν τις υπάρχουσες προκαταλήψεις εναντίον αυτών των κοινοτήτων. Σύμφωνα με την έρευνα του Gizmodo που χρησιμοποιεί δεδομένα από την Geolitica και πολλές υπηρεσίες επιβολής του νόμου, οι προβλέψεις της Geolitica μιμούνται τα πραγματικά μοτίβα υπερβολικής αστυνόμευσης και αναγνώρισης κοινοτήτων μαύρων και λατίνων, ακόμη και ατόμων σε αυτές τις ομάδες με μηδενικά αρχεία σύλληψης. 

Οργανώσεις πολιτικών δικαιωμάτων έχουν εκφράσει ανησυχίες σχετικά με την αυξανόμενη χρήση προγνωστικής αστυνόμευσης χωρίς σωστή διακυβέρνηση και ρυθμιστικές πολιτικές. Κάποιοι έχουν υποστηρίξει ότι πίσω από αυτούς τους αλγόριθμους χρησιμοποιούνται «βρώμικα δεδομένα» (στοιχεία που λαμβάνονται μέσω διεφθαρμένων και παράνομων πρακτικών) και οι εταιρείες που τους χρησιμοποιούν κρύβουν αυτές τις προκαταλήψεις πίσω από το «tech-washing» (ισχυρίζοντας ότι αυτή η τεχνολογία είναι αντικειμενική απλώς και μόνο επειδή δεν υπάρχει ανθρώπινη παρέμβαση).

Μια άλλη κριτική που αντιμετωπίζει η προγνωστική αστυνόμευση είναι ότι είναι συχνά δύσκολο για το κοινό να καταλάβει πώς λειτουργούν αυτοί οι αλγόριθμοι. Αυτή η έλλειψη διαφάνειας μπορεί να δυσχεράνει την ευθύνη των υπηρεσιών επιβολής του νόμου για τις αποφάσεις που λαμβάνουν με βάση τις προβλέψεις αυτών των συστημάτων. Ως εκ τούτου, πολλές οργανώσεις ανθρωπίνων δικαιωμάτων ζητούν την απαγόρευση των προγνωστικών αστυνομικών τεχνολογιών, ιδιαίτερα της τεχνολογίας αναγνώρισης προσώπου. 

Συνέπειες της προγνωστικής αστυνόμευσης

Οι ευρύτερες επιπτώσεις της προγνωστικής αστυνόμευσης μπορεί να περιλαμβάνουν:

• Τα πολιτικά δικαιώματα και οι περιθωριοποιημένες ομάδες που ασκούν πίεση και πιέζουν ενάντια στην ευρεία χρήση της προγνωστικής αστυνόμευσης, ειδικά εντός των έγχρωμων κοινοτήτων.
• Πίεση για την κυβέρνηση να επιβάλει πολιτική ή τμήμα εποπτείας για να περιορίσει τον τρόπο με τον οποίο χρησιμοποιείται η προγνωστική αστυνόμευση. Η μελλοντική νομοθεσία μπορεί να υποχρεώσει τις αστυνομικές υπηρεσίες να χρησιμοποιούν δεδομένα προφίλ πολιτών χωρίς μεροληψία από τρίτα μέρη εγκεκριμένα από την κυβέρνηση για να εκπαιδεύσουν τους αντίστοιχους αλγόριθμους πρόβλεψης αστυνόμευσης.
• Περισσότερες υπηρεσίες επιβολής του νόμου σε όλο τον κόσμο βασίζονται σε κάποια μορφή προγνωστικής αστυνόμευσης για να συμπληρώσουν τις στρατηγικές περιπολίας τους.
• Εξουσιαστικές κυβερνήσεις που χρησιμοποιούν τροποποιημένες εκδόσεις αυτών των αλγορίθμων για να προβλέψουν και να αποτρέψουν τις διαμαρτυρίες πολιτών και άλλες δημόσιες αναταραχές.
• Περισσότερες χώρες απαγορεύουν τις τεχνολογίες αναγνώρισης προσώπου στις υπηρεσίες επιβολής του νόμου υπό την αυξανόμενη πίεση του κοινού.
• Αυξημένες αγωγές κατά αστυνομικών υπηρεσιών για κατάχρηση αλγορίθμων που οδήγησαν σε παράνομες ή εσφαλμένες συλλήψεις.

Ερωτήσεις προς εξέταση

• Πιστεύετε ότι πρέπει να χρησιμοποιηθεί προγνωστική αστυνόμευση;
• Πώς πιστεύετε ότι οι αλγόριθμοι προγνωστικής αστυνόμευσης θα αλλάξουν τον τρόπο με τον οποίο εφαρμόζεται η δικαιοσύνη;