Prognozējoša policijas darbība: noziedzības novēršana vai aizspriedumu stiprināšana?

• Autors:
• Autors nosaukums

  Quantumrun Foresight
• 25. gada 2023. maijs

Mākslīgā intelekta (AI) sistēmu izmantošana, lai identificētu noziedzības modeļus un ieteiktu iejaukšanās iespējas turpmāku noziedzīgu darbību novēršanai, var būt daudzsološa jauna metodoloģija tiesībaizsardzības iestādēm. Analizējot datus, piemēram, ziņojumus par noziegumiem, policijas ierakstus un citu būtisku informāciju, algoritmi var noteikt modeļus un tendences, kuras cilvēkiem var būt grūti atklāt. Tomēr mākslīgā intelekta izmantošana noziedzības novēršanā rada dažus svarīgus ētiskus un praktiskus jautājumus. 

Prognozējošais policijas konteksts

Prognozējošā policija izmanto vietējo noziedzības statistiku un algoritmus, lai prognozētu, kur noziegumi varētu notikt tālāk. Daži prognozēšanas policijas pakalpojumu sniedzēji ir vēl vairāk modificējuši šo tehnoloģiju, lai prognozētu zemestrīces pēcgrūdienus, lai precīzi noteiktu apgabalus, kur policijai bieži vajadzētu patrulēt, lai atturētu no noziegumiem. Papildus "karstajiem punktiem" tehnoloģija izmanto vietējos aizturēšanas datus, lai identificētu personas veidu, kas varētu pastrādāt noziegumus. 

ASV bāzētais paredzamās policijas programmatūras nodrošinātājs Geolitica (agrāk pazīstams kā PredPol), kura tehnoloģiju pašlaik izmanto vairākas tiesībaizsardzības iestādes, apgalvo, ka viņi savās datu kopās ir izņēmuši sacensību komponentu, lai novērstu pārmērīgu krāsu cilvēku kontroli. Tomēr daži neatkarīgi pētījumi, ko veica tehnoloģiju vietne Gizmodo un pētniecības organizācija The Citizen Lab, atklāja, ka algoritmi faktiski pastiprināja aizspriedumus pret neaizsargātām kopienām.

Piemēram, policijas programma, kas izmantoja algoritmu, lai prognozētu, kurš ir pakļauts riskam iesaistīties vardarbīgos noziegumos, kas saistīti ar ieročiem, tika kritizēti pēc tam, kad tika atklāts, ka 85 procenti no tiem, kuriem bija visaugstākais riska rādītājs, bija afroamerikāņu vīrieši, daži nav iepriekšējas vardarbīgas sodāmības. Programma, ko sauc par Stratēģisko priekšmetu sarakstu, tika rūpīgi pārbaudīta 2017. gadā, kad Chicago Sun-Times ieguva un publicēja saraksta datubāzi. Šis incidents izceļ neobjektivitātes iespējamību AI izmantošanā tiesībaizsardzībā un to, cik svarīgi ir rūpīgi apsvērt iespējamos riskus un sekas pirms šo sistēmu ieviešanas.

Traucējoša ietekme

Prognozējošai policijas darbībai ir dažas priekšrocības, ja tā tiek veikta pareizi. Noziedzības novēršana ir liela priekšrocība, kā apstiprināja Losandželosas policijas departaments, kurš teica, ka viņu algoritmi ļāva par 19 procentiem samazināt ielaušanos norādītajos karstajos punktos. Vēl viens ieguvums ir uz skaitļiem balstīta lēmumu pieņemšana, kur dati nosaka modeļus, nevis cilvēku aizspriedumus. 

Tomēr kritiķi uzsver, ka, tā kā šīs datu kopas ir iegūtas no vietējām policijas nodaļām, kurās agrāk ir arestēti vairāk krāsainu cilvēku (īpaši afroamerikāņu un latīņamerikāņu), modeļi tikai izceļ esošos aizspriedumus pret šīm kopienām. Saskaņā ar Gizmodo pētījumu, izmantojot datus no Geolitica un vairākām tiesībaizsardzības aģentūrām, Geolitica prognozes atdarina reālās dzīves modeļus, pārlieku kontrolējot un identificējot melnādaino un latīņamerikāņu kopienas, pat personas šajās grupās ar nulles aizturēšanas ierakstiem. 

Pilsoņu tiesību organizācijas ir paudušas bažas par prognozējamās policijas arvien pieaugošo izmantošanu bez pienācīgas pārvaldības un regulatīvās politikas. Daži ir iebilduši, ka aiz šiem algoritmiem tiek izmantoti "netīri dati" (skaitļi, kas iegūti korumpētas un nelikumīgas prakses rezultātā), un aģentūras, kas tos izmanto, slēpj šos aizspriedumus aiz "tehnoloģiju mazgāšanas" (apgalvojot, ka šī tehnoloģija ir objektīva tikai tāpēc, ka nav cilvēka iejaukšanās).

Vēl viena kritika, ar ko saskaras paredzamā policijas darbība, ir tāda, ka sabiedrībai bieži ir grūti saprast, kā šie algoritmi darbojas. Šis pārredzamības trūkums var apgrūtināt tiesībaizsardzības iestāžu atbildību par lēmumiem, ko tās pieņem, pamatojoties uz šo sistēmu prognozēm. Attiecīgi daudzas cilvēktiesību organizācijas aicina aizliegt prognozēšanas policijas tehnoloģijas, jo īpaši sejas atpazīšanas tehnoloģiju. 

Prognozējošās policijas ietekmes

Prognozējošās policijas darbības plašākas sekas var ietvert:

• Pilsoņu tiesības un marginalizētas grupas, kas lobē un spiež pret plašo paredzamo policijas izmantošanu, īpaši krāsainās kopienās.
• Spiediens valdībai noteikt pārraudzības politiku vai departamentu, lai ierobežotu paredzamās policijas izmantošanu. Nākotnes tiesību akti var likt policijas aģentūrām izmantot neobjektīvus pilsoņu profilēšanas datus no valdības apstiprinātām trešajām pusēm, lai apmācītu savus attiecīgos prognozējošos policijas algoritmus.
• Vairāk tiesībaizsardzības iestāžu visā pasaulē, kas paļaujas uz kāda veida prognozējamu policijas darbu, lai papildinātu savas patrulēšanas stratēģijas.
• Autoritāras valdības izmanto šo algoritmu modificētās versijas, lai prognozētu un novērstu iedzīvotāju protestus un citus sabiedriskos traucējumus.
• Arvien vairāk valstu, kas aizliedz sejas atpazīšanas tehnoloģijas savās tiesībaizsardzības aģentūrās, pieaugot sabiedrības spiedienam.
• Palielinātas tiesas prāvas pret policijas aģentūrām par ļaunprātīgu algoritmu izmantošanu, kā rezultātā tika veikti nelikumīgi vai kļūdaini aresti.

Jautājumi, kas jāapsver

• Vai, jūsuprāt, ir jāizmanto paredzamā policijas darbība?
• Kā, jūsuprāt, paredzamie policijas algoritmi mainīs taisnīguma ieviešanu?