Prediktív rendfenntartás: A bűnözés megelőzése vagy az elfogultságok megerősítése?

• Szerző:
• Szerző neve

  Quantumrun Foresight
• May 25, 2023

Ígéretes új módszer lehet a bűnüldöző szervek számára, ha mesterséges intelligencia (AI) rendszereket használnak a bűnözési minták azonosítására, és beavatkozási lehetőségeket javasolnak a jövőbeni bűnözés megelőzésére. Az olyan adatok elemzésével, mint a bűnügyi jelentések, rendőrségi feljegyzések és egyéb releváns információk, az algoritmusok azonosítani tudják azokat a mintákat és tendenciákat, amelyeket az emberek nehezen észlelhetnek. Azonban a mesterséges intelligencia alkalmazása a bűnmegelőzésben felvet néhány fontos etikai és gyakorlati kérdést. 

Prediktív rendészeti környezet

A prediktív rendfenntartás helyi bűnügyi statisztikákat és algoritmusokat használ annak előrejelzésére, hogy hol következnek be a következő bűncselekmények. Egyes prediktív rendészeti szolgáltatók tovább módosították ezt a technológiát, hogy előre jelezzék a földrengések utórengéseit, hogy meghatározzák azokat a területeket, ahol a rendőröknek gyakran járőrözniük kell a bűncselekmények elrettentése érdekében. A „hotspotokon” kívül a technológia a helyi letartóztatási adatokat is felhasználja a bűncselekményt elkövető személy típusának azonosítására. 

Az egyesült államokbeli Geolitica (korábbi nevén PredPol) prediktív rendészeti szoftvergyártó, amelynek technológiáját jelenleg számos bűnüldöző szervezet használja, azt állítja, hogy eltávolították a versenykomponenst az adatkészleteikből, hogy kiküszöböljék a színes bőrűek túlzott ellenőrzését. A Gizmodo technológiai webhely és a The Citizen Lab kutatószervezet által végzett néhány független tanulmány azonban azt találta, hogy az algoritmusok valójában megerősítették a sebezhető közösségekkel szembeni előítéleteket.

Például egy olyan rendőrségi program, amely egy algoritmus segítségével előre jelezte, kit fenyeget az erőszakos fegyverrel kapcsolatos bűncselekmények elkövetésének kockázata, bírálat érte, miután kiderült, hogy a legmagasabb kockázati pontszámmal rendelkezők 85 százaléka afroamerikai férfi volt, és néhányan nincs korábbi erőszakos előélete. A Strategic Subject List nevű programot 2017-ben vették górcső alá, amikor a Chicago Sun-Times megszerezte és közzétette a lista adatbázisát. Ez az incidens rávilágít az elfogultság lehetőségére a mesterséges intelligencia bűnüldözésben való használatában, valamint annak fontosságára, hogy gondosan mérlegeljék a lehetséges kockázatokat és következményeket, mielőtt e rendszerek bevezetése előtt állnának.

Bomlasztó hatás

Van néhány előnye a prediktív rendészetnek, ha helyesen végzik. A bûnmegelőzés nagy elõnyt jelent, amint azt a Los Angeles-i rendõrség is megerõsítette, amely szerint algoritmusaik 19 százalékkal csökkentették a betörések számát a jelzett gócpontokon belül. Egy másik előny a számalapú döntéshozatal, ahol az adatok mintákat diktálnak, nem pedig az emberi előítéleteket. 

A kritikusok azonban hangsúlyozzák, hogy mivel ezeket az adatkészleteket a helyi rendőrségtől szerezték be, ahol korábban több színes bőrű embert tartóztattak le (különösen afro-amerikaiakat és latin-amerikaiakat), a minták csupán rávilágítanak az ezekkel a közösségekkel szembeni elfogultságra. A Gizmodo kutatása szerint a Geoliticától és több rendvédelmi ügynökségtől származó adatok felhasználásával a Geolitica előrejelzései a valós élet mintáit utánozzák a túlzott rendfenntartás és a fekete és latin közösségek azonosításában, még az ezekben a csoportokban lévő egyéneknél is, akiknél nincs letartóztatás. 

A polgárjogi szervezetek aggodalmukat fejezték ki a megfelelő irányítás és szabályozási politikák nélküli prediktív rendfenntartás egyre gyakoribb alkalmazása miatt. Egyesek azzal érveltek, hogy „piszkos adatokat” (korrupt és illegális gyakorlatokkal nyert adatok) használnak ezen algoritmusok mögött, és az ezeket használó ügynökségek ezeket az elfogultságokat a „tech-washing” mögé rejtik (azt állítják, hogy ez a technológia csak azért objektív, mert nincs emberi beavatkozás).

A prediktív rendészettel szembeni másik kritika az, hogy a nyilvánosság számára gyakran nehéz megérteni, hogyan működnek ezek az algoritmusok. Az átláthatóság hiánya megnehezítheti a bűnüldöző szervek felelősségre vonását az e rendszerek előrejelzései alapján hozott döntéseikért. Ennek megfelelően számos emberi jogi szervezet a prediktív rendőrségi technológiák, különösen az arcfelismerő technológia betiltását szorgalmazza. 

A prediktív rendészeti tevékenység következményei

A prediktív rendészeti tevékenység tágabb következményei lehetnek:

• A polgári jogok és a marginalizált csoportok lobbiznak és visszaszorítják a prediktív rendfenntartást, különösen a színes bőrű közösségeken belül.
• Nyomás a kormányra, hogy felügyeleti politikát vagy osztályt vezessenek be, hogy korlátozzák a prediktív rendészet alkalmazását. A jövőbeli jogszabályok arra kényszeríthetik a rendőri szerveket, hogy a kormány által jóváhagyott harmadik felektől elfogultságmentes állampolgári profilalkotási adatokat használjanak a megfelelő prediktív rendészeti algoritmusaik betanításához.
• Világszerte egyre több bűnüldöző szerv támaszkodik valamilyen prediktív rendfenntartásra, hogy kiegészítse járőrözési stratégiáját.
• A tekintélyelvű kormányok ezen algoritmusok módosított változatait használják az állampolgári tiltakozások és egyéb nyilvános zavargások előrejelzésére és megelőzésére.
• Egyre több ország tiltja be az arcfelismerő technológiát bűnüldöző szerveikben a nyilvánosság növekvő nyomása alatt.
• Megszaporodtak a rendőri szervek ellen indított perek az algoritmusokkal való visszaélés miatt, amelyek jogellenes vagy téves letartóztatásokhoz vezettek.

Megfontolandó kérdések

• Ön szerint prediktív rendészeti eljárást kell alkalmazni?
• Ön szerint a prediktív rendészeti algoritmusok hogyan fogják megváltoztatni az igazságszolgáltatás megvalósítását?