Chính sách dự đoán: Ngăn chặn tội phạm hoặc củng cố thành kiến?

TÍN DỤNG HÌNH ẢNH:
Tín dụng hình ảnh
iStock

Chính sách dự đoán: Ngăn chặn tội phạm hoặc củng cố thành kiến?

Chính sách dự đoán: Ngăn chặn tội phạm hoặc củng cố thành kiến?

Văn bản tiêu đề phụ
Các thuật toán hiện đang được sử dụng để dự đoán nơi tội phạm có thể xảy ra tiếp theo, nhưng dữ liệu có thể được tin cậy để duy trì tính khách quan không?
    • tác giả:
    • tên tác giả
      Tầm nhìn lượng tử
    • 25 Tháng Năm, 2023

    Sử dụng hệ thống trí tuệ nhân tạo (AI) để xác định mô hình tội phạm và đề xuất các phương án can thiệp nhằm ngăn chặn hoạt động tội phạm trong tương lai có thể là một phương pháp mới đầy hứa hẹn cho các cơ quan thực thi pháp luật. Bằng cách phân tích dữ liệu như báo cáo tội phạm, hồ sơ cảnh sát và các thông tin liên quan khác, các thuật toán có thể xác định các mẫu và xu hướng mà con người có thể khó phát hiện. Tuy nhiên, việc ứng dụng AI trong phòng chống tội phạm đặt ra một số câu hỏi quan trọng về đạo đức và thực tiễn. 

    Bối cảnh chính sách dự đoán

    Chính sách dự đoán sử dụng các số liệu thống kê và thuật toán tội phạm địa phương để dự báo nơi tội phạm có nhiều khả năng xảy ra tiếp theo. Một số nhà cung cấp chính sách dự đoán đã sửa đổi thêm công nghệ này để dự đoán dư chấn động đất nhằm xác định chính xác các khu vực mà cảnh sát nên thường xuyên tuần tra để ngăn chặn tội phạm. Ngoài “điểm nóng”, công nghệ sử dụng dữ liệu bắt giữ tại địa phương để xác định loại cá nhân có khả năng phạm tội. 

    Nhà cung cấp phần mềm lập chính sách dự đoán có trụ sở tại Hoa Kỳ Geolitica (trước đây gọi là PredPol), có công nghệ hiện đang được một số cơ quan thực thi pháp luật sử dụng, tuyên bố rằng họ đã xóa thành phần chủng tộc khỏi bộ dữ liệu của mình để loại bỏ việc kiểm soát quá mức đối với người da màu. Tuy nhiên, một số nghiên cứu độc lập được thực hiện bởi trang web công nghệ Gizmodo và tổ chức nghiên cứu The Citizen Lab đã phát hiện ra rằng các thuật toán thực sự củng cố thành kiến ​​đối với các cộng đồng dễ bị tổn thương.

    Ví dụ: một chương trình của cảnh sát sử dụng thuật toán để dự đoán ai có nguy cơ dính líu đến tội phạm bạo lực liên quan đến súng đã vấp phải sự chỉ trích sau khi tiết lộ rằng 85% những người được xác định là có điểm rủi ro cao nhất là đàn ông Mỹ gốc Phi, một số có không có tiền án bạo lực trước đó. Chương trình, được gọi là Danh sách chủ đề chiến lược, đã được xem xét kỹ lưỡng vào năm 2017 khi tờ Chicago Sun-Times thu được và xuất bản cơ sở dữ liệu về danh sách này. Sự cố này nêu bật khả năng thiên vị trong việc sử dụng AI trong thực thi pháp luật và tầm quan trọng của việc xem xét cẩn thận các rủi ro và hậu quả tiềm ẩn trước khi triển khai các hệ thống này.

    Tác động gián đoạn

    Có một số lợi ích đối với chính sách dự đoán nếu được thực hiện đúng. Phòng chống tội phạm là một lợi thế lớn, theo xác nhận của Sở Cảnh sát Los Angeles, cho biết các thuật toán của họ giúp giảm 19% các vụ trộm trong các điểm nóng được chỉ định. Một lợi ích khác là ra quyết định dựa trên số, trong đó dữ liệu chỉ ra các mẫu chứ không phải thành kiến ​​của con người. 

    Tuy nhiên, các nhà phê bình nhấn mạnh rằng vì các bộ dữ liệu này được lấy từ các sở cảnh sát địa phương, nơi có lịch sử bắt giữ nhiều người da màu hơn (đặc biệt là người Mỹ gốc Phi và người Mỹ Latinh), nên các mẫu chỉ làm nổi bật những thành kiến ​​​​hiện có đối với các cộng đồng này. Theo nghiên cứu của Gizmodo sử dụng dữ liệu từ Geolitica và một số cơ quan thực thi pháp luật, các dự đoán của Geolitica bắt chước các mô hình thực tế về kiểm soát quá mức và xác định các cộng đồng Da đen và La tinh, thậm chí cả những cá nhân trong các nhóm này không có hồ sơ bắt giữ. 

    Các tổ chức dân quyền đã bày tỏ lo ngại về việc sử dụng ngày càng nhiều chính sách dự đoán mà không có các chính sách điều tiết và quản trị phù hợp. Một số người lập luận rằng “dữ liệu bẩn” (số liệu thu được thông qua các hành vi tham nhũng và bất hợp pháp) đang được sử dụng đằng sau các thuật toán này và các cơ quan sử dụng chúng đang che giấu những thành kiến ​​này đằng sau “công nghệ tẩy rửa” (tuyên bố rằng công nghệ này là khách quan đơn giản vì không có sự can thiệp của con người).

    Một lời chỉ trích khác mà chính sách dự đoán phải đối mặt là công chúng thường khó hiểu cách thức hoạt động của các thuật toán này. Sự thiếu minh bạch này có thể gây khó khăn cho việc quy trách nhiệm cho các cơ quan thực thi pháp luật về các quyết định mà họ đưa ra dựa trên dự đoán của các hệ thống này. Theo đó, nhiều tổ chức nhân quyền đang kêu gọi cấm các công nghệ dự đoán của cảnh sát, đặc biệt là công nghệ nhận dạng khuôn mặt. 

    Ý nghĩa của chính sách dự đoán

    Ý nghĩa rộng hơn của chính sách dự đoán có thể bao gồm:

    • Các nhóm dân quyền và bị gạt ra ngoài lề vận động hành lang và đẩy lùi việc sử dụng rộng rãi chính sách dự báo, đặc biệt là trong các cộng đồng da màu.
    • Áp lực đối với chính phủ trong việc áp đặt một chính sách giám sát hoặc bộ phận để hạn chế cách sử dụng chính sách dự đoán. Luật pháp trong tương lai có thể buộc các cơ quan cảnh sát sử dụng dữ liệu hồ sơ công dân không thiên vị từ các bên thứ ba được chính phủ phê duyệt để đào tạo các thuật toán kiểm soát dự đoán tương ứng của họ.
    • Nhiều cơ quan thực thi pháp luật trên toàn thế giới dựa vào một số hình thức lập chính sách dự đoán để bổ sung cho các chiến lược tuần tra của họ.
    • Các chính phủ độc đoán sử dụng các phiên bản sửa đổi của các thuật toán này để dự đoán và ngăn chặn các cuộc biểu tình của công dân cũng như các rối loạn công cộng khác.
    • Nhiều quốc gia cấm công nghệ nhận dạng khuôn mặt trong các cơ quan thực thi pháp luật của họ dưới áp lực ngày càng tăng từ công chúng.
    • Gia tăng các vụ kiện chống lại các cơ quan cảnh sát vì lạm dụng các thuật toán dẫn đến các vụ bắt giữ bất hợp pháp hoặc sai lầm.

    Các câu hỏi cần xem xét

    • Bạn có nghĩ rằng chính sách dự đoán nên được sử dụng?
    • Bạn nghĩ các thuật toán lập chính sách dự đoán sẽ thay đổi cách thực thi công lý như thế nào?

    Tham khảo thông tin chi tiết

    Các liên kết phổ biến và liên kết thể chế sau đây đã được tham chiếu cho thông tin chi tiết này:

    Trung tâm Tư pháp Brennan Giải thích chính sách dự đoán