Voorspellende polisiëring: Voorkoming van misdaad of versterking van vooroordele?

• Author:
• Author naam

  Quantumrun Foresight
• Mag 25, 2023

Die gebruik van kunsmatige intelligensie (KI)-stelsels om misdaadpatrone te identifiseer en intervensie-opsies voor te stel om toekomstige kriminele aktiwiteite te voorkom, kan 'n belowende nuwe metodologie vir wetstoepassingsagentskappe wees. Deur data soos misdaadverslae, polisierekords en ander relevante inligting te ontleed, kan algoritmes patrone en neigings identifiseer wat vir mense moeilik kan wees om op te spoor. Die toepassing van KI in misdaadvoorkoming laat egter 'n paar belangrike etiese en praktiese vrae ontstaan. 

Voorspellende polisiëringskonteks

Voorspellende polisiëring gebruik plaaslike misdaadstatistieke en algoritmes om te voorspel waar misdade volgende waarskynlik sal plaasvind. Sommige verskaffers van voorspellende polisiëring het hierdie tegnologie verder aangepas om aardbewingnaskokke te voorspel om gebiede vas te stel waar die polisie gereeld moet patrolleer om misdade af te weer. Afgesien van "hotspots", gebruik die tegnologie plaaslike arrestasiedata om die tipe individu te identifiseer wat waarskynlik misdade sal pleeg. 

Die VSA-gebaseerde verskaffer van voorspellende polisiëring sagteware Geolitica (voorheen bekend as PredPol), wie se tegnologie tans deur verskeie wetstoepassingsentiteite gebruik word, beweer dat hulle die ras-komponent in hul datastelle verwyder het om oorpolisiëring van mense van kleur uit te skakel. Sommige onafhanklike studies wat deur die tegnologie-webwerf Gizmodo en navorsingsorganisasie The Citizen Lab uitgevoer is, het egter bevind dat die algoritmes eintlik vooroordele teen kwesbare gemeenskappe versterk het.

Byvoorbeeld, 'n polisieprogram wat 'n algoritme gebruik het om te voorspel wie die risiko loop om by gewelddadige wapenverwante misdaad betrokke te raak, het kritiek ondervind nadat dit aan die lig gebring is dat 85 persent van diegene wat geïdentifiseer is met die hoogste risikotellings Afro-Amerikaanse mans was, sommige met geen vorige gewelddadige kriminele rekord nie. Die program, genaamd die Strategic Subject List, het in 2017 onder die loep gekom toe die Chicago Sun-Times 'n databasis van die lys verkry en gepubliseer het. Hierdie voorval beklemtoon die potensiaal vir vooroordeel in die gebruik van KI in wetstoepassing en die belangrikheid daarvan om die potensiële risiko's en gevolge noukeurig te oorweeg voordat hierdie stelsels geïmplementeer word.

Ontwrigtende impak

Daar is 'n paar voordele aan voorspellende polisiëring as dit reg gedoen word. Misdaadvoorkoming is 'n groot voordeel, soos bevestig deur die Los Angeles-polisiedepartement, wat gesê het hul algoritmes het gelei tot 'n 19 persent vermindering van inbrake binne die aangeduide brandpunte. Nog 'n voordeel is nommergebaseerde besluitneming, waar data patrone dikteer, nie menslike vooroordele nie. 

Kritici beklemtoon egter dat omdat hierdie datastelle verkry word van plaaslike polisiedepartemente, wat 'n geskiedenis gehad het om meer gekleurde mense (veral Afro-Amerikaners en Latyns-Amerikaners) in hegtenis te neem, die patrone bloot bestaande vooroordele teen hierdie gemeenskappe uitlig. Volgens Gizmodo se navorsing wat data van Geolitica en verskeie wetstoepassingsagentskappe gebruik, boots Geolitica se voorspellings werklike patrone na van oorpolisiëring en identifisering van Swart en Latino-gemeenskappe, selfs individue binne hierdie groepe met geen arrestasierekords. 

Burgerregte-organisasies het kommer uitgespreek oor die toenemende gebruik van voorspellende polisiëring sonder behoorlike bestuur en regulatoriese beleid. Sommige het aangevoer dat "vuil data" (syfers verkry deur korrupte en onwettige praktyke) agter hierdie algoritmes gebruik word, en agentskappe wat dit gebruik, verberg hierdie vooroordele agter "tegnologie-was" (wat beweer dat hierdie tegnologie objektief is bloot omdat daar geen menslike ingryping).

Nog 'n kritiek wat voorspellende polisiëring in die gesig staar, is dat dit dikwels vir die publiek moeilik is om te verstaan ​​hoe hierdie algoritmes werk. Hierdie gebrek aan deursigtigheid kan dit moeilik maak om wetstoepassingsagentskappe aanspreeklik te hou vir die besluite wat hulle neem op grond van die voorspellings van hierdie stelsels. Gevolglik vra baie menseregte-organisasies die verbod op voorspellende polisietegnologie, veral gesigsherkenningstegnologie. 

Implikasies van voorspellende polisiëring

Wyer implikasies van voorspellende polisiëring kan die volgende insluit:

• Burgerregte en gemarginaliseerde groepe steun en druk terug teen die wydverspreide gebruik van voorspellende polisiëring, veral binne gemeenskappe van kleur.
• Druk op die regering om 'n oorsigbeleid of departement in te stel om te beperk hoe voorspellende polisiëring gebruik word. Toekomstige wetgewing kan polisie-agentskappe dwing om vooroordeelvrye burgerprofieldata van derde partye wat deur die regering goedgekeur is, te gebruik om hul onderskeie voorspellende polisiëringsalgoritmes op te lei.
• Meer wetstoepassingsagentskappe wêreldwyd maak staat op een of ander vorm van voorspellende polisiëring om hul patrolliestrategieë aan te vul.
• Outoritêre regerings wat gewysigde weergawes van hierdie algoritmes gebruik om burgerprotes en ander openbare steurings te voorspel en te voorkom.
• Meer lande verbied gesigsherkenningstegnologieë in hul wetstoepassingsagentskappe onder toenemende druk van die publiek.
• Verhoogde regsgedinge teen polisie-agentskappe vir die misbruik van algoritmes wat gelei het tot onwettige of foutiewe arrestasies.

Vrae om te oorweeg

• Dink jy voorspellende polisiëring moet gebruik word?
• Hoe dink jy sal voorspellende polisiëringsalgoritmes verander hoe geregtigheid geïmplementeer word?