Предиктивна полиција: Спречавање криминала или јачање предрасуда?

• Аутор:
• ime аутора

  Куантумрун Форесигхт
• Може 25, 2023

Коришћење система вештачке интелигенције (АИ) за идентификацију образаца криминала и предлагање опција за интервенцију за спречавање будућих криминалних активности може бити обећавајућа нова методологија за агенције за спровођење закона. Анализом података као што су извештаји о злочинима, полицијски записи и друге релевантне информације, алгоритми могу да идентификују обрасце и трендове које је људима тешко открити. Међутим, примена АИ у превенцији криминала поставља нека важна етичка и практична питања. 

Предиктивни полицијски контекст

Предиктивна полиција користи статистику и алгоритме локалног криминала да би предвидела где ће се злочини највероватније десити следеће. Неки провајдери предиктивне полиције додатно су модификовали ову технологију како би предвидели накнадне потресе како би одредили области у којима полиција треба да често патролира како би спречила злочине. Осим „врућих тачака“, технологија користи локалне податке о хапшењу да идентификује врсту особе која ће вероватно починити злочине. 

Амерички провајдер софтвера за предиктивну полицију Геолитица (раније познат као ПредПол), чију технологију тренутно користи неколико органа за спровођење закона, тврди да су уклонили компоненту расе у своје скупове података како би елиминисали прекомерну полицију за обојене особе. Међутим, неке независне студије које су спровели технолошка веб страница Гизмодо и истраживачка организација Тхе Цитизен Лаб откриле су да су алгоритми заправо појачали пристрасности према рањивим заједницама.

На пример, полицијски програм који је користио алгоритам за предвиђање ко је у ризику да буде умешан у насилне злочине повезане са оружјем суочио се са критикама након што је откривено да су 85 одсто оних који су идентификовани као они са највишим резултатима били Афроамериканци, неки са без претходног насилничког досијеа. Програм, назван Листа стратешких субјеката, био је под лупом 2017. године када је Цхицаго Сун-Тимес добио и објавио базу података листе. Овај инцидент наглашава потенцијал за пристрасност у коришћењу вештачке интелигенције у спровођењу закона и важност пажљивог разматрања потенцијалних ризика и последица пре примене ових система.

Ометајући утицај

Постоје неке предности предиктивног рада полиције ако се уради како треба. Превенција криминала је велика предност, што је потврдила Полицијска управа Лос Анђелеса, која је рекла да су њихови алгоритми резултирали смањењем провала за 19 процената унутар наведених жаришта. Још једна предност је доношење одлука засновано на бројевима, где подаци диктирају обрасце, а не људске пристрасности. 

Међутим, критичари наглашавају да пошто су ови скупови података добијени од локалних полицијских управа, које су имале историју хапшења више обојених људи (нарочито Афроамериканаца и Латиноамериканаца), обрасци само наглашавају постојеће предрасуде према овим заједницама. Према Гизмодоовом истраживању које користи податке Геолитице и неколико агенција за спровођење закона, Геолитица предвиђања опонашају стварне обрасце прекомерног надзора полиције и идентификације црначких и латино заједница, чак и појединаца унутар ових група са нула хапшења. 

Организације за грађанска права изразиле су забринутост због све веће употребе предиктивне полиције без одговарајућег управљања и регулаторних политика. Неки су тврдили да се иза ових алгоритама користе „прљави подаци“ (цифре добијене корумпираним и незаконитим праксама), а агенције које их користе крију те предрасуде иза „прања технологије“ (тврдећи да је ова технологија објективна једноставно зато што не постоји људска интервенција).

Још једна критика са којом се суочава предиктивни рад полиције је да је јавности често тешко да разуме како ови алгоритми функционишу. Овај недостатак транспарентности може отежати позивање агенција за спровођење закона на одговорност за одлуке које доносе на основу предвиђања ових система. Сходно томе, многе организације за људска права позивају на забрану предиктивних полицијских технологија, посебно технологије за препознавање лица. 

Импликације предиктивног рада полиције

Шире импликације предиктивног рада полиције могу укључивати:

• Грађанска права и маргинализоване групе које лобирају и супротстављају се широко распрострањеној употреби предиктивне полиције, посебно у заједницама обојених боја.
• Притисак на владу да наметне политику надзора или одељење за ограничавање начина на који се користи предиктивни рад полиције. Будуће законодавство може приморати полицијске агенције да користе податке о профилисању грађана без пристрасности од трећих страна које је одобрила влада како би обучили своје одговарајуће алгоритме за предвиђање полиције.
• Више агенција за спровођење закона широм света ослањају се на неки облик предиктивне полиције као допуну својим стратегијама патролирања.
• Ауторитарне владе користе модификоване верзије ових алгоритама да предвиде и спрече протесте грађана и друге јавне немире.
• Све више земаља забрањује технологије за препознавање лица у својим агенцијама за спровођење закона под све већим притиском јавности.
• Повећани број тужби против полицијских агенција због злоупотребе алгоритама који су довели до незаконитих или погрешних хапшења.

Питања која треба размотрити

• Да ли мислите да треба користити предиктивну полицију?
• Шта мислите како ће предиктивни полицијски алгоритми променити начин на који се спроводи правда?