Quantumrun

IRUDIAREN KREDITUA:

iStock

Polizia iragarlea: delitua prebenitzea edo alborapenak indartzea?

Orain delitu bat non gerta daitekeen aurreikusteko algoritmoak erabiltzen ari dira, baina fida al daiteke datuak objektiboak izaten jarraituko dutela?

Egilea:
Egilearen izena
Quantumrun Prospektiba
25 daiteke, 2023

Adimen artifiziala (AI) sistemak erabiltzea krimen-ereduak identifikatzeko eta etorkizuneko jarduera kriminala prebenitzeko esku hartzeko aukerak iradokitzeko metodologia berri itxaropentsua izan daiteke legea betearazteko agentzientzat. Krimen-txostenak, polizia-erregistroak eta bestelako informazio garrantzitsua bezalako datuak aztertuz, algoritmoek gizakiek detektatzeko zailak izan daitezkeen ereduak eta joerak identifikatu ditzakete. Hala ere, AIren aplikazioak krimenaren prebentzioan galdera etiko eta praktiko garrantzitsu batzuk planteatzen ditu.

Predikzio polizialaren testuingurua

Polizia iragarleak tokiko krimenen estatistikak eta algoritmoak erabiltzen ditu delituak non gerta daitezkeen hurrengo iragartzeko. Poliziaren hornitzaile iragarle batzuek teknologia hau gehiago aldatu dute lurrikararen erreplikak iragartzeko, poliziak maiz patruilatu behar dituen eremuak delituak saihesteko. "Guneak" alde batera utzita, teknologiak tokiko atxiloketen datuak erabiltzen ditu delituak egin ditzakeen pertsona mota identifikatzeko.

Geolitica (lehen PredPol izenez ezagutzen zen) AEBetan oinarritutako polizia iragarlearen software hornitzaileak, zeinaren teknologia gaur egun legea betearazteko hainbat erakundek erabiltzen ari diren, dio arraza osagaia kendu dutela euren datu multzoetan koloretako pertsonen gehiegizko polizia ezabatzeko. Hala ere, Gizmodo webgune teknologikoak eta The Citizen Lab ikerketa erakundeak egindako ikerketa independente batzuek aurkitu dute algoritmoek komunitate ahulen aurkako joerak indartu dituztela.

Esaterako, armarekin lotutako delitu bortitzean parte hartzeko arriskua nor zen iragartzeko algoritmo bat erabiltzen zuen polizia-programa batek kritikak jasan zituen arrisku-puntuazio altuena zutenen ehuneko 85 afroamerikar gizonak zirela, eta batzuk. aurrekari penal bortitzarik ez. Programa, Strategic Subject List izenekoa, 2017an aztertu zuten Chicago Sun-Times-ek zerrendaren datu-base bat lortu eta argitaratu zuenean. Gertaera honek legearen betearazpenean AI erabiltzeak alborapenaren potentziala eta sistema hauek ezarri aurretik izan daitezkeen arriskuak eta ondorioak arretaz kontuan hartzearen garrantzia azpimarratzen du.

Eragin disruptiboa

Polizia iragarleak onura batzuk ditu ondo egiten bada. Krimenen prebentzioa abantaila handia da, Los Angeleseko Polizia Sailak baieztatu duenez, haien algoritmoek adierazitako guneetan lapurreten ehuneko 19 murriztea eragin dutela. Beste onura bat zenbakietan oinarritutako erabakiak hartzea da, non datuek ereduak agintzen dituzten, ez giza-alborapenak.

Hala ere, kritikoek azpimarratzen dute datu-multzo hauek tokiko polizia sailetatik lortzen direnez, koloretako pertsona gehiago atxilotzeko historia izan dutenez (batez ere afroamerikarrak eta latinoamerikarrak), ereduek komunitate horien aurka dauden alborapenak nabarmentzen dituzte. Gizmodoren ikerketaren arabera, Geoliticaren eta hainbat lege betearazteko agentzien datuak erabiliz, Geolitica-ren iragarpenek gehiegizko poliziaren eta komunitate beltzak eta latinoak identifikatzeko eta identifikatzeko ereduak imitatzen dituzte, baita talde horien barruan dauden pertsonak ere, zero atxiloketa-erregistroak dituztenak.

Eskubide zibilen erakundeek kezka agertu dute polizia iragarlearen erabilera gero eta handiagoa dela eta gobernu eta arauzko politika egokirik gabe. Batzuek argudiatu dute algoritmo hauen atzean "datu zikinak" (praktika ustel eta ilegalen bidez lortutako zifrak) erabiltzen ari direla, eta erabiltzen dituzten agentziek alborapen horiek ezkutatzen dituzte "tech-washing" atzean (teknologia hau objektiboa dela aldarrikatuz, besterik gabe, ez dagoelako. giza esku-hartzea).

Polizia iragarleak jasaten duen beste kritika bat da askotan zaila dela publikoak algoritmo hauek nola funtzionatzen duten ulertzea. Gardentasun falta horrek zaildu egin dezake lege betearazleei sistema horien iragarpenetan oinarrituta hartzen dituzten erabakien erantzukizuna. Horrenbestez, giza eskubideen erakunde askok polizia aurreikusteko teknologiak debekatzea eskatzen dute, batez ere aurpegia ezagutzeko teknologia.

Polizia aurreikuspenaren ondorioak

Polizia iragarlearen ondorio zabalagoak izan daitezke:

Eskubide zibilak eta baztertutako taldeek prebisioa egiten eta atzera botatzen dute polizia iragarlearen erabilera hedatuaren aurka, batez ere kolore-komunitateen barruan.
Gobernuak presioa gainbegiratze-politika edo sail bat ezartzeko, polizia iragarlea nola erabiltzen den mugatzeko. Etorkizuneko legediak polizia-agentziak behartu ditzake alborapenik gabeko hiritarren profilak gobernuak onartutako hirugarrenen datuak erabiltzera, dagozkien polizia iragarle-algoritmoak trebatzeko.
Lege betearazteko agentzia gehiago mundu osoko polizia iragarleren batean oinarritzen dira patruilatzeko estrategiak osatzeko.
Gobernu autoritarioek algoritmo horien bertsio aldatuak erabiltzen dituzte herritarren protestak eta bestelako nahasmendu publikoak aurreikusteko eta saihesteko.
Herrialde gehiagok aurpegia ezagutzeko teknologiak debekatzen dituzte beren legea betearazteko agentzietan, publikoaren presio handiagoarekin.
Polizia agentzien aurkako auziak areagotu dira legez kanpoko atxiloketak edo okerrak eragin dituzten algoritmoak gaizki erabiltzeagatik.