Pulisi prediktif: Nyegah kajahatan atanapi nguatkeun bias?

KREDIT GAMBAR:
Kiridit Gambar
iStock

Pulisi prediktif: Nyegah kajahatan atanapi nguatkeun bias?

Pulisi prediktif: Nyegah kajahatan atanapi nguatkeun bias?

Teks subjudul
Algoritma ayeuna dipake keur prediksi dimana kajahatan bisa lumangsung salajengna, tapi bisa data dipercaya pikeun tetep obyektif?
    • Author:
    • Ngaran pangarang
      Quantumrun tetempoan
    • Bisa 25, 2023

    Ngagunakeun sistem kecerdasan jieunan (AI) pikeun ngaidentipikasi pola kajahatan sarta nyarankeun pilihan campur pikeun nyegah kagiatan kriminal hareup bisa jadi metodologi anyar ngajangjikeun pikeun agénsi penegak hukum. Ku nganalisa data sapertos laporan kajahatan, catetan pulisi, sareng inpormasi anu relevan, algoritma tiasa ngaidentipikasi pola sareng tren anu tiasa sesah pikeun manusa dideteksi. Sanajan kitu, aplikasi AI dina pencegahan kajahatan raises sababaraha patarosan etika jeung praktis penting. 

    Kontéks policing prediktif

    Policing prediktif ngagunakeun statistik kajahatan lokal sareng algoritma pikeun ngaramal dimana kajahatan anu paling dipikaresep bakal kajantenan salajengna. Sababaraha panyadia policing prediksi geus salajengna dirobah téhnologi ieu keur prediksi gempa susulan pikeun pinpoint wewengkon mana pulisi kudu remen patroli pikeun ngahalangan kajahatan. Salian ti "hotspot," téknologi ngagunakeun data panangkepan lokal pikeun ngaidentipikasi jinis individu anu kamungkinan ngalakukeun kajahatan. 

    Panyadia parangkat lunak pulisi prediksi basis AS Geolitica (baheulana kawanoh salaku PredPol), anu téknologina ayeuna dianggo ku sababaraha lembaga penegak hukum, nyatakeun yén aranjeunna parantos ngaleungitkeun komponén balapan kana set datana pikeun ngaleungitkeun over-policing jalma warna. Nanging, sababaraha panilitian mandiri anu dilakukeun ku situs wéb Gizmodo sareng organisasi riset The Citizen Lab mendakan yén algoritma éta leres-leres nguatkeun bias ngalawan komunitas anu rentan.

    Salaku conto, program pulisi anu ngagunakeun algoritma pikeun ngaduga saha anu résiko kalibet dina kajahatan anu aya hubunganana sareng bedil telenges nyanghareupan kritik saatos kaungkab yén 85 persén anu diidentifikasi ngagaduhan skor résiko pangluhurna nyaéta lalaki Amérika Afrika, sawaréh ngagaduhan euweuh catetan kriminal kekerasan saméméhna. Program éta, anu disebut Daptar Subjek Strategis, ditaliti dina taun 2017 nalika Chicago Sun-Times nampi sareng nyebarkeun database daptar éta. Kajadian ieu nyorot poténsi bias dina ngagunakeun AI dina penegak hukum sareng pentingna taliti mertimbangkeun poténsial résiko sareng akibat sateuacan nerapkeun sistem ieu.

    Dampak ngaganggu

    Aya sababaraha mangpaat pikeun policing prediksi lamun dipigawé leres. Pencegahan kajahatan mangrupakeun kaunggulan utama, sakumaha dikonfirmasi ku Dinas Pulisi Los Angeles, nu ceuk algoritma maranéhanana nyababkeun 19 réduksi persén burglaries dina hotspots dituduhkeun. Kauntungan sanésna nyaéta kaputusan dumasar-jumlah, dimana data ngarahkeun pola, sanés bias manusa. 

    Nanging, para kritikus negeskeun yén kusabab set data ieu dicandak ti departemén pulisi lokal, anu ngagaduhan sajarah néwak langkung seueur jalma warna (khususna Afrika-Amerika sareng Amerika Latin), pola éta ngan ukur nyorot bias anu aya ngalawan komunitas ieu. Numutkeun kana panilitian Gizmodo nganggo data ti Geolitica sareng sababaraha lembaga penegak hukum, prediksi Geolitica meniru pola kahirupan nyata tina overpolicing sareng ngaidentipikasi komunitas Hideung sareng Latino, bahkan individu dina grup ieu sareng nol rékaman ditewak. 

    Organisasi hak-hak sipil parantos ngungkabkeun kaprihatinan ngeunaan ningkatna panggunaan policing prediktif tanpa pamaréntahan anu leres sareng kawijakan pangaturan. Sababaraha parantos ngabantah yén "data kotor" (angka anu dicandak tina prakték korup sareng ilegal) dianggo di tukangeun algoritma ieu, sareng agénsi anu ngagunakeunana nyumputkeun bias ieu di tukangeun "cuci téknologi" (ngaku yén téknologi ieu obyéktif kusabab teu aya. campur tangan manusa).

    Kritik anu sanés anu disanghareupan ku pulisi prediksi nyaéta sering hésé pikeun masarakat ngartos kumaha algoritma ieu jalan. Kurangna transparansi ieu tiasa nyusahkeun pikeun nanggung tanggung jawab lembaga penegak hukum pikeun kaputusan anu didamel dumasar kana prediksi sistem ieu. Sasuai, seueur organisasi hak asasi manusa anu nyauran larangan téknologi pulisi prediksi, khususna téknologi pangenal raray. 

    Implikasi tina policing prediksi

    Implikasi anu langkung ageung tina policing prediktif tiasa kalebet:

    • Hak-hak sipil sareng kelompok terpinggirkan lobbying sareng nyorong deui ngalawan panyalahgunaan policing prediksi, khususna dina komunitas warna.
    • Tekanan pikeun pamaréntah pikeun maksakeun kabijakan pangawasan atanapi jabatan pikeun ngabatesan kumaha policing prediktif dianggo. Panerapan kahareup bisa maksa agénsi pulisi ngagunakeun data profil warga bebas bias ti pihak katilu-disatujuan pamaréntah pikeun ngalatih algoritma policing prediksi masing-masing.
    • Langkung seueur agénsi penegak hukum di sakuliah dunya ngandelkeun sababaraha bentuk pulisi prediktif pikeun ngalengkepan strategi patroli na.
    • Pamaréntah otoriter ngagunakeun vérsi algoritma ieu anu dirobih pikeun ngaduga sareng nyegah protés warga sareng gangguan umum anu sanés.
    • Langkung seueur nagara anu ngalarang téknologi pangenal raray dina agénsi penegak hukumna dina tekanan anu ningkat ti masarakat.
    • Ngaronjat gugatan ngalawan agénsi pulisi pikeun nyalahgunakeun algoritma anu nyababkeun panangkepan anu teu sah atanapi salah.

    Patarosan anu kedah diperhatoskeun

    • Naha anjeun pikir pulisi prediktif kedah dianggo?
    • Kumaha saur anjeun algoritma policing prediktif bakal ngarobih kumaha kaadilan dilaksanakeun?

    Rujukan wawasan

    Tumbu populér sareng institusional di handap ieu dirujuk pikeun wawasan ieu:

    Brennan Center pikeun Kaadilan Policing prediktif Dijelaskeun