Tbassir tal-pulizija: Il-prevenzjoni tal-kriminalità jew it-tisħiħ tal-preġudizzji?

• awtur:
• isem awtur

  Quantumrun Foresight
• Jista 25, 2023

L-użu ta' sistemi ta' intelliġenza artifiċjali (AI) biex jidentifikaw mudelli ta' kriminalità u jissuġġerixxu għażliet ta' intervent biex jipprevjenu attività kriminali futura jista' jkun metodoloġija ġdida promettenti għall-aġenziji tal-infurzar tal-liġi. Billi janalizzaw dejta bħar-rapporti tal-kriminalità, ir-rekords tal-pulizija, u informazzjoni rilevanti oħra, l-algoritmi jistgħu jidentifikaw xejriet u xejriet li jistgħu jkunu diffiċli għall-bnedmin biex jiskopru. Madankollu, l-applikazzjoni tal-IA fil-prevenzjoni tal-kriminalità tqajjem xi mistoqsijiet etiċi u prattiċi importanti. 

Kuntest tal-pulizija ta' tbassir

Il-pulizija ta' tbassir juża statistika u algoritmi tal-kriminalità lokali biex ibassar fejn x'aktarx iseħħu l-aktar reati li jmiss. Xi fornituri tal-pulizija ta 'tbassir immodifikaw aktar din it-teknoloġija biex ibassru skossi ta' wara t-terremoti biex jindikaw żoni fejn il-pulizija għandhom ta 'spiss jgħassu biex jiskoraġġixxu reati. Minbarra "hotspots", it-teknoloġija tuża data ta 'arrest lokali biex tidentifika t-tip ta' individwu li x'aktarx iwettaq reati. 

Il-fornitur tas-softwer tal-pulizija ta’ tbassir ibbażat fl-Istati Uniti Geolitica (magħruf qabel bħala PredPol), li t-teknoloġija tiegħu bħalissa qed tintuża minn diversi entitajiet tal-infurzar tal-liġi, isostni li neħħew il-komponent tar-razza fis-settijiet tad-dejta tagħhom biex jeliminaw il-pulizija żejda ta’ nies ta’ kulur. Madankollu, xi studji indipendenti mwettqa mill-websajt tat-teknoloġija Gizmodo u l-organizzazzjoni ta 'riċerka The Citizen Lab sabu li l-algoritmi fil-fatt saħħew preġudizzji kontra komunitajiet vulnerabbli.

Pereżempju, programm tal-pulizija li uża algoritmu biex ibassar min kien f’riskju li jsir involut f’kriminalità vjolenti relatata mal-armi ffaċċja kritika wara li ġie żvelat li 85 fil-mija ta’ dawk identifikati bħala li għandhom l-ogħla punteġġi ta’ riskju kienu irġiel Afrikani Amerikani, xi wħud bi ebda rekord kriminali vjolenti preċedenti. Il-programm, imsejjaħ il-Lista tas-Suġġetti Strateġiċi, ġie taħt skrutinju fl-2017 meta l-Chicago Sun-Times kiseb u ppubblikat database tal-lista. Dan l-inċident jenfasizza l-potenzjal għal preġudizzju fl-użu tal-AI fl-infurzar tal-liġi u l-importanza li jitqiesu bir-reqqa r-riskji u l-konsegwenzi potenzjali qabel jiġu implimentati dawn is-sistemi.

Impatt li jfixkel

Hemm xi benefiċċji għat-tbassir tal-pulizija jekk isir sewwa. Il-prevenzjoni tal-kriminalità hija vantaġġ kbir, kif ikkonfermat mid-Dipartiment tal-Pulizija ta 'Los Angeles, li qal li l-algoritmi tagħhom irriżultaw fi tnaqqis ta' 19 fil-mija ta 'serq fi ħdan il-hotspots indikati. Benefiċċju ieħor huwa t-teħid tad-deċiżjonijiet ibbażat fuq in-numri, fejn id-dejta tiddetta mudelli, mhux preġudizzji umani. 

Madankollu, il-kritiċi jenfasizzaw li minħabba li dawn is-settijiet tad-dejta huma miksuba minn dipartimenti tal-pulizija lokali, li kellhom storja ta 'arrest ta' aktar nies ta 'kulur (partikolarment Afrikani-Amerikani u Latin-Amerikani), ix-xejriet sempliċement jenfasizzaw preġudizzji eżistenti kontra dawn il-komunitajiet. Skont ir-riċerka ta’ Gizmodo bl-użu ta’ data minn Geolitica u diversi aġenziji tal-infurzar tal-liġi, it-tbassir ta’ Geolitica jimita xejriet tal-ħajja reali ta’ pulizija żejda u jidentifika komunitajiet Iswed u Latini, anke individwi fi ħdan dawn il-gruppi b’rekords ta’ arrest żero. 

L-organizzazzjonijiet tad-drittijiet ċivili esprimew tħassib dwar l-użu dejjem akbar tal-pulizija ta’ tbassir mingħajr governanza xierqa u politiki regolatorji. Xi wħud argumentaw li “data maħmuġa” (figuri miksuba permezz ta’ prattiki korrotti u illegali) qed tintuża wara dawn l-algoritmi, u l-aġenziji li jużawhom qed jaħbu dawn il-preġudizzji wara “tech-washing” (li jsostnu li din it-teknoloġija hija oġġettiva sempliċement għax m’hemmx intervent uman).

Kritika oħra li tiffaċċja l-pulizija ta’ tbassir hija li ħafna drabi huwa diffiċli għall-pubbliku li jifhem kif jaħdmu dawn l-algoritmi. Dan in-nuqqas ta’ trasparenza jista’ jagħmilha diffiċli li l-aġenziji tal-infurzar tal-liġi jinżammu responsabbli għad-deċiżjonijiet li jieħdu bbażati fuq it-tbassir ta’ dawn is-sistemi. Għaldaqstant, ħafna organizzazzjonijiet tad-drittijiet tal-bniedem qed jitolbu l-projbizzjoni tat-teknoloġiji tal-pulizija ta’ tbassir, partikolarment it-teknoloġija tar-rikonoxximent tal-wiċċ. 

Implikazzjonijiet ta' pulizija ta' tbassir

Implikazzjonijiet usa' tal-pulizija ta' tbassir jistgħu jinkludu:

• Drittijiet ċivili u gruppi emarġinati jagħmlu lobbying u jimbuttaw lura kontra l-użu mifrux tal-pulizija ta’ tbassir, speċjalment fi ħdan komunitajiet ta’ kulur.
• Pressjoni għall-gvern biex jimponi politika ta’ sorveljanza jew dipartiment biex jillimita kif tintuża l-pulizija ta’ tbassir. Leġislazzjoni futura tista' ġġiegħel lill-aġenziji tal-pulizija jużaw data ta' profili taċ-ċittadini mingħajr preġudizzju minn partijiet terzi approvati mill-gvern biex iħarrġu l-algoritmi ta' pulizija ta' tbassir rispettivi tagħhom.
• Aktar aġenziji tal-infurzar tal-liġi madwar id-dinja jiddependu fuq xi forma ta’ pulizija ta’ tbassir biex jikkumplimentaw l-istrateġiji ta’ ronda tagħhom.
• Gvernijiet awtoritarji li jużaw verżjonijiet modifikati ta' dawn l-algoritmi biex ibassru u jipprevjenu protesti taċ-ċittadini u disturbi pubbliċi oħra.
• Aktar pajjiżi li jipprojbixxu t-teknoloġiji tar-rikonoxximent tal-wiċċ fl-aġenziji tal-infurzar tal-liġi tagħhom taħt pressjoni dejjem tiżdied mill-pubbliku.
• Żieda fil-kawżi kontra l-aġenziji tal-pulizija għall-użu ħażin ta' algoritmi li wasslu għal arresti illegali jew żbaljati.

Mistoqsijiet li għandek tikkunsidra

• Taħseb li għandu jintuża l-pulizija ta' tbassir?
• Kif taħseb li l-algoritmi tal-pulizija ta' tbassir se jbiddlu kif tiġi implimentata l-ġustizzja?