Predictive policing: Pag-iwas sa krimen o pagpapatibay ng mga bias?

• May-akda:
• pangalan Author

  Quantumrun Foresight
• Mayo 25, 2023

Ang paggamit ng mga sistema ng artificial intelligence (AI) upang matukoy ang mga pattern ng krimen at magmungkahi ng mga opsyon sa interbensyon upang maiwasan ang aktibidad ng kriminal sa hinaharap ay maaaring maging isang magandang bagong pamamaraan para sa mga ahensyang nagpapatupad ng batas. Sa pamamagitan ng pagsusuri ng data gaya ng mga ulat ng krimen, mga rekord ng pulisya, at iba pang nauugnay na impormasyon, matutukoy ng mga algorithm ang mga pattern at trend na maaaring mahirap matukoy ng mga tao. Gayunpaman, ang paggamit ng AI sa pag-iwas sa krimen ay nagtataas ng ilang mahahalagang etikal at praktikal na katanungan. 

Mahuhulaang konteksto ng policing

Ang predictive policing ay gumagamit ng mga lokal na istatistika ng krimen at mga algorithm upang hulaan kung saan ang mga krimen ay pinaka-malamang na susunod na mangyari. Ang ilang mga predictive policing provider ay higit pang binago ang teknolohiyang ito upang mahulaan ang mga aftershock ng lindol upang matukoy ang mga lugar kung saan dapat madalas na magpatrolya ang mga pulis upang hadlangan ang mga krimen. Bukod sa "mga hotspot," gumagamit ang tech ng data ng lokal na pag-aresto upang matukoy ang uri ng indibidwal na malamang na gumawa ng mga krimen. 

Ang provider ng predictive policing software na nakabase sa US na Geolitica (dating kilala bilang PredPol), na ang teknolohiya ay kasalukuyang ginagamit ng ilang entity na nagpapatupad ng batas, ay nag-aangkin na inalis nila ang bahagi ng lahi sa kanilang mga dataset upang maalis ang sobrang pagpupulis ng mga taong may kulay. Gayunpaman, natuklasan ng ilang mga independiyenteng pag-aaral na isinagawa ng tech website na Gizmodo at organisasyon ng pananaliksik na The Citizen Lab na ang mga algorithm ay talagang nagpatibay ng mga bias laban sa mga mahihinang komunidad.

Halimbawa, ang isang programa ng pulisya na gumamit ng algorithm upang hulaan kung sino ang nasa panganib na masangkot sa marahas na krimen na may kaugnayan sa baril ay nahaharap sa pagpuna matapos itong ibunyag na 85 porsiyento ng mga natukoy na may pinakamataas na marka ng panganib ay mga lalaking African American, ang ilan ay may walang nakaraang marahas na kriminal na rekord. Ang programa, na tinatawag na Strategic Subject List, ay nasuri noong 2017 nang makuha at inilathala ng Chicago Sun-Times ang isang database ng listahan. Itinatampok ng insidenteng ito ang potensyal ng bias sa paggamit ng AI sa pagpapatupad ng batas at ang kahalagahan ng maingat na pagsasaalang-alang sa mga potensyal na panganib at kahihinatnan bago ipatupad ang mga sistemang ito.

Nakakagambalang epekto

Mayroong ilang mga benepisyo sa predictive policing kung gagawin nang tama. Ang pag-iwas sa krimen ay isang pangunahing bentahe, gaya ng kinumpirma ng Departamento ng Pulisya ng Los Angeles, na nagsabing ang kanilang mga algorithm ay nagresulta sa isang 19 na porsyentong pagbawas ng mga pagnanakaw sa loob ng ipinahiwatig na mga hotspot. Ang isa pang benepisyo ay ang paggawa ng desisyon na nakabatay sa numero, kung saan ang data ang nagdidikta ng mga pattern, hindi ang mga bias ng tao. 

Gayunpaman, binibigyang-diin ng mga kritiko na dahil ang mga dataset na ito ay nakuha mula sa mga lokal na departamento ng pulisya, na may kasaysayan ng pag-aresto sa mas maraming taong may kulay (lalo na ang mga African-American at Latin American), ang mga pattern ay nagha-highlight lamang ng mga umiiral na bias laban sa mga komunidad na ito. Ayon sa pananaliksik ni Gizmodo gamit ang data mula sa Geolitica at ilang ahensyang nagpapatupad ng batas, ang mga hula ni Geolitica ay ginagaya ang mga pattern sa totoong buhay ng overpolicing at pagtukoy sa mga komunidad ng Black at Latino, kahit na ang mga indibidwal sa loob ng mga grupong ito na walang record ng pag-aresto. 

Ang mga organisasyon ng karapatang sibil ay nagpahayag ng mga alalahanin sa dumaraming paggamit ng predictive policing nang walang wastong pamamahala at mga patakaran sa regulasyon. Ang ilan ay nagtalo na ang "maruming data" (mga numero na nakuha sa pamamagitan ng mga tiwaling at ilegal na gawi) ay ginagamit sa likod ng mga algorithm na ito, at ang mga ahensyang gumagamit ng mga ito ay nagtatago ng mga bias na ito sa likod ng "tech-washing" (na sinasabing ang teknolohiyang ito ay layunin lamang dahil walang interbensyon ng tao).

Ang isa pang pagpuna na kinakaharap ng predictive policing ay madalas na mahirap para sa publiko na maunawaan kung paano gumagana ang mga algorithm na ito. Ang kakulangan ng transparency na ito ay maaaring maging mahirap na panagutin ang mga ahensyang nagpapatupad ng batas para sa mga desisyon na kanilang gagawin batay sa mga hula ng mga sistemang ito. Alinsunod dito, maraming mga organisasyon ng karapatang pantao ang nananawagan para sa pagbabawal ng mga predictive na teknolohiya ng pulisya, partikular na ang teknolohiya sa pagkilala sa mukha. 

Mga implikasyon ng predictive policing

Ang mas malawak na implikasyon ng predictive policing ay maaaring kabilang ang:

• Ang mga karapatang sibil at mga marginalized na grupo ay naglo-lobby at nagtutulak laban sa malawakang paggamit ng predictive policing, lalo na sa loob ng mga komunidad na may kulay.
• Presyon para sa gobyerno na magpataw ng isang patakaran sa pangangasiwa o departamento upang limitahan kung paano ginagamit ang predictive policing. Maaaring pilitin ng batas sa hinaharap ang mga ahensya ng pulisya na gumamit ng data ng profile ng mamamayan na walang kinikilingan mula sa mga third party na inaprubahan ng gobyerno upang sanayin ang kani-kanilang predictive policing algorithm.
• Mas maraming ahensyang nagpapatupad ng batas sa buong mundo na umaasa sa ilang uri ng predictive policing upang umakma sa kanilang mga diskarte sa pagpapatrolya.
• Ang mga awtoridad na pamahalaan ay gumagamit ng mga binagong bersyon ng mga algorithm na ito upang hulaan at maiwasan ang mga protesta ng mamamayan at iba pang pampublikong kaguluhan.
• Mas maraming bansa ang nagbabawal sa mga teknolohiya sa pagkilala sa mukha sa kanilang mga ahensyang nagpapatupad ng batas sa ilalim ng pagtaas ng presyon mula sa publiko.
• Tumaas na mga demanda laban sa mga ahensya ng pulisya para sa maling paggamit ng mga algorithm na humantong sa labag sa batas o maling pag-aresto.

Mga katanungang dapat isaalang-alang

• Sa tingin mo, dapat bang gamitin ang predictive policing?
• Paano sa palagay mo mababago ng predictive policing algorithm kung paano ipinapatupad ang hustisya?