예측 치안: 범죄 예방 또는 편견 강화?

이미지 크레딧:
이미지 크레딧
iStock

예측 치안: 범죄 예방 또는 편견 강화?

예측 치안: 범죄 예방 또는 편견 강화?

소제목 텍스트
이제 범죄가 다음에 발생할 수 있는 위치를 예측하는 데 알고리즘이 사용되고 있지만 데이터가 객관적으로 유지되도록 신뢰할 수 있습니까?
    • 저자:
    • 저자 이름
      퀀텀런 예측
    • 2023 년 5 월 25 일

    인공 지능(AI) 시스템을 사용하여 범죄 패턴을 식별하고 향후 범죄 활동을 방지하기 위한 개입 옵션을 제안하는 것은 법 집행 기관에 유망한 새로운 방법론이 될 수 있습니다. 범죄 보고서, 경찰 기록 및 기타 관련 정보와 같은 데이터를 분석하여 알고리즘은 사람이 감지하기 어려울 수 있는 패턴과 경향을 식별할 수 있습니다. 그러나 범죄 예방에 AI를 적용하는 것은 몇 가지 중요한 윤리적 및 실용적인 질문을 제기합니다. 

    예측적 치안 상황

    예측 치안은 지역 범죄 통계 및 알고리즘을 사용하여 다음에 범죄가 발생할 가능성이 가장 높은 곳을 예측합니다. 일부 예측 치안 제공업체는 이 기술을 추가로 수정하여 지진 여진을 예측하여 경찰이 범죄를 저지하기 위해 자주 순찰해야 하는 지역을 정확히 찾아냈습니다. "핫스팟" 외에도 이 기술은 지역 체포 데이터를 사용하여 범죄를 저지를 가능성이 있는 개인의 유형을 식별합니다. 

    현재 여러 법 집행 기관에서 기술을 사용하고 있는 미국 기반 예측 치안 소프트웨어 제공업체인 Geolitica(이전 PredPol)는 유색 인종에 대한 과잉 치안을 제거하기 위해 데이터 세트에서 인종 구성 요소를 제거했다고 주장합니다. 그러나 기술 웹사이트 Gizmodo와 연구 기관 The Citizen Lab이 실시한 일부 독립적인 연구에서는 알고리즘이 실제로 취약한 커뮤니티에 대한 편견을 강화한다는 사실을 발견했습니다.

    예를 들어, 폭력적인 총기 관련 범죄에 연루될 위험이 있는 사람을 예측하기 위해 알고리즘을 사용하는 경찰 프로그램은 가장 높은 위험 점수를 가진 것으로 식별된 사람들의 85%가 아프리카계 미국인 남성이라는 사실이 밝혀진 후 비판에 직면했습니다. 이전의 폭력 범죄 기록이 없습니다. Strategic Subject List라고 불리는 이 프로그램은 2017년 Chicago Sun-Times가 목록의 데이터베이스를 입수하여 발표하면서 정밀 조사를 받았습니다. 이 사건은 법 집행에서 AI를 사용하는 데 있어 편견의 가능성과 이러한 시스템을 구현하기 전에 잠재적인 위험과 결과를 신중하게 고려하는 것의 중요성을 강조합니다.

    파괴적 영향

    올바르게 수행된 경우 예측 치안에는 몇 가지 이점이 있습니다. 로스엔젤레스 경찰청은 그들의 알고리즘이 표시된 핫스팟 내에서 절도를 19% 감소시켰다고 밝혔습니다. 또 다른 이점은 인간의 편견이 아니라 데이터가 패턴을 지시하는 숫자 기반 의사 결정입니다. 

    그러나 비평가들은 이러한 데이터 세트가 더 많은 유색 인종(특히 아프리카계 미국인 및 라틴 아메리카인)을 체포한 이력이 있는 지역 경찰서에서 얻은 것이기 때문에 이러한 패턴은 이러한 커뮤니티에 대한 기존 편견을 강조할 뿐이라고 강조합니다. Geolitica 및 여러 법 집행 기관의 데이터를 사용하는 Gizmodo의 연구에 따르면 Geolitica의 예측은 검거 기록이 전혀 없는 이러한 그룹 내의 개인을 포함하여 흑인 및 라틴계 커뮤니티를 과도하게 통제하고 식별하는 실제 패턴을 모방합니다. 

    시민권 단체는 적절한 거버넌스와 규제 정책 없이 예측 치안의 사용이 증가하는 것에 대해 우려를 표명했습니다. 어떤 이들은 "더티 데이터"(부패하고 불법적인 관행을 통해 얻은 수치)가 이러한 알고리즘 뒤에 사용되고 있으며 이를 사용하는 기관은 "테크 워싱" 뒤에 이러한 편견을 숨기고 있다고 주장했습니다(이 기술은 단순히 인간 개입).

    예측 경찰이 직면한 또 다른 비판은 대중이 이러한 알고리즘의 작동 방식을 이해하기 어려운 경우가 많다는 것입니다. 이러한 투명성의 결여는 법 집행 기관이 이러한 시스템의 예측을 기반으로 내리는 결정에 대해 책임을 지도록 하는 것을 어렵게 만들 수 있습니다. 이에 많은 인권단체들은 예측 경찰 기술, 특히 안면인식 기술의 금지를 요구하고 있다. 

    예측 치안의 의미

    예측 치안의 더 넓은 의미에는 다음이 포함될 수 있습니다.

    • 시민권 및 소외 집단은 특히 유색인종 커뮤니티 내에서 예측 치안의 광범위한 사용에 대해 로비하고 반발합니다.
    • 예측 치안이 사용되는 방법을 제한하기 위해 감독 정책 또는 부서를 부과하도록 정부에 대한 압력. 미래의 법안은 경찰 기관이 정부가 승인한 제XNUMX자의 편견 없는 시민 프로파일링 데이터를 사용하여 각각의 예측 치안 알고리즘을 훈련하도록 강제할 수 있습니다.
    • 전 세계적으로 더 많은 법 집행 기관이 순찰 전략을 보완하기 위해 어떤 형태의 예측 경찰 활동에 의존하고 있습니다.
    • 권위주의 정부는 이러한 알고리즘의 수정된 버전을 사용하여 시민 시위 및 기타 공공 소요를 예측하고 방지합니다.
    • 대중의 압력이 높아지면서 법 집행 기관에서 안면 인식 기술을 금지하는 국가가 늘고 있습니다.
    • 불법적이거나 잘못된 체포로 이어진 알고리즘을 오용한 경찰 기관에 대한 소송이 증가했습니다.

    고려해야 할 질문

    • 예측 경찰이 사용되어야 한다고 생각하십니까?
    • 예측 치안 알고리즘이 정의 구현 방식을 어떻게 바꿀 것이라고 생각하십니까?

    통찰력 참조

    이 통찰력을 위해 다음과 같은 인기 있는 기관 링크를 참조했습니다.

    브레넌 센터 (Brennan Center for Justice) 예측 치안 설명