Poliția predictivă: prevenirea criminalității sau consolidarea prejudecăților?

CREDIT DE IMAGINE:
Imagine de credit
iStock

Poliția predictivă: prevenirea criminalității sau consolidarea prejudecăților?

Poliția predictivă: prevenirea criminalității sau consolidarea prejudecăților?

Textul subtitlului
Algoritmii sunt acum utilizați pentru a prezice unde se poate întâmpla o crimă în continuare, dar se poate avea încredere că datele vor rămâne obiective?
    • Autor:
    • Numele autorului
      Previziune Quantumrun
    • 25 Mai, 2023

    Utilizarea sistemelor de inteligență artificială (AI) pentru a identifica tiparele criminalității și pentru a sugera opțiuni de intervenție pentru a preveni viitoare activități criminale poate fi o nouă metodologie promițătoare pentru agențiile de aplicare a legii. Analizând date precum rapoartele de crimă, dosarele poliției și alte informații relevante, algoritmii pot identifica modele și tendințe care pot fi dificil de detectat de oameni. Cu toate acestea, aplicarea IA în prevenirea criminalității ridică câteva întrebări etice și practice importante. 

    Contextul polițienesc predictiv

    Poliția predictivă folosește statistici și algoritmi de criminalitate locală pentru a prognoza unde este cel mai probabil să apară infracțiunile în continuare. Unii furnizori de servicii de predicție au modificat în continuare această tehnologie pentru a prezice replicile de cutremur pentru a identifica zonele în care poliția ar trebui să patruleze frecvent pentru a descuraja crimele. Pe lângă „hotspot-uri”, tehnologia folosește datele locale de arestare pentru a identifica tipul de individ susceptibil de a comite infracțiuni. 

    Furnizorul de software de poliție predictivă din SUA Geolitica (cunoscut anterior ca PredPol), a cărui tehnologie este utilizată în prezent de mai multe entități de aplicare a legii, susține că a eliminat componenta rasă din seturile lor de date pentru a elimina supra-polițarea persoanelor de culoare. Cu toate acestea, unele studii independente efectuate de site-ul tehnologic Gizmodo și de organizația de cercetare The Citizen Lab au descoperit că algoritmii au întărit de fapt părtinirile împotriva comunităților vulnerabile.

    De exemplu, un program de poliție care a folosit un algoritm pentru a prezice cine riscă să fie implicat în infracțiuni violente legate de arme a fost criticat după ce a fost dezvăluit că 85% dintre cei identificați ca având cele mai mari scoruri de risc erau bărbați afro-americani, unii cu fără antecedente penale violente. Programul, numit Strategic Subject List, a fost analizat în 2017, când Chicago Sun-Times a obținut și publicat o bază de date a listei. Acest incident evidențiază potențialul de părtinire în utilizarea AI în aplicarea legii și importanța luării în considerare cu atenție a potențialelor riscuri și consecințe înainte de implementarea acestor sisteme.

    Impact perturbator

    Există câteva beneficii pentru poliția predictivă dacă este făcută corect. Prevenirea criminalității este un avantaj major, după cum a confirmat Departamentul de Poliție din Los Angeles, care a declarat că algoritmii lor au dus la o reducere cu 19% a spargerii în hotspot-urile indicate. Un alt beneficiu este luarea deciziilor bazate pe numere, unde datele dictează modele, nu părtiniri umane. 

    Cu toate acestea, criticii subliniază că, deoarece aceste seturi de date sunt obținute de la departamentele locale de poliție, care au avut o istorie de arestare a mai multor persoane de culoare (în special afro-americani și latino-americani), modelele evidențiază doar părtinirile existente împotriva acestor comunități. Conform cercetărilor lui Gizmodo, folosind date de la Geolitica și mai multe agenții de aplicare a legii, previziunile Geolitica imită modelele din viața reală de suprapoliție și identificarea comunităților de negru și latino, chiar și indivizi din cadrul acestor grupuri cu dosare de arestare zero. 

    Organizațiile pentru drepturile civile și-au exprimat îngrijorarea cu privire la utilizarea tot mai mare a poliției predictive fără politici adecvate de guvernare și reglementare. Unii au susținut că „datele murdare” (cifrele obținute prin practici corupte și ilegale) sunt folosite în spatele acestor algoritmi, iar agențiile care îi folosesc ascund aceste părtiniri în spatele „spălării tehnologiei” (sustinând că această tehnologie este obiectivă pur și simplu pentru că nu există interventia omului).

    O altă critică cu care se confruntă poliția predictivă este că este adesea dificil pentru public să înțeleagă cum funcționează acești algoritmi. Această lipsă de transparență poate face dificilă tragerea la răspundere a agențiilor de aplicare a legii pentru deciziile pe care le iau pe baza previziunilor acestor sisteme. În consecință, multe organizații pentru drepturile omului cer interzicerea tehnologiilor poliției predictive, în special a tehnologiei de recunoaștere facială. 

    Implicațiile politicii predictive

    Implicațiile mai largi ale poliției predictive pot include:

    • Drepturile civile și grupurile marginalizate fac lobby și resping împotriva utilizării pe scară largă a poliției predictive, în special în cadrul comunităților de culoare.
    • Presiune pentru guvern pentru a impune o politică de supraveghere sau un departament pentru a limita modul în care este utilizată poliția predictivă. Legislația viitoare ar putea forța agențiile de poliție să folosească date de profilare a cetățenilor fără părtinire de la terți aprobati de guvern pentru a-și antrena algoritmii de poliție predictivi.
    • Mai multe agenții de aplicare a legii din întreaga lume se bazează pe o anumită formă de poliție predictivă pentru a-și completa strategiile de patrulare.
    • Guvernele autoritare care folosesc versiuni modificate ale acestor algoritmi pentru a prezice și a preveni protestele cetățenilor și alte tulburări publice.
    • Mai multe țări care interzic tehnologiile de recunoaștere facială în agențiile lor de aplicare a legii, sub presiunea tot mai mare din partea publicului.
    • Creșterea proceselor împotriva agențiilor de poliție pentru utilizarea greșită a algoritmilor care au dus la arestări ilegale sau eronate.

    Întrebări de luat în considerare

    • Credeți că ar trebui folosită poliția predictivă?
    • Cum credeți că algoritmii de poliție predictivă vor schimba modul în care este implementată justiția?

    Referințe de perspectivă

    Următoarele linkuri populare și instituționale au fost menționate pentru această perspectivă:

    Centrul pentru Justiție Brennan Poliția predictivă explicată