Предвидливо полициско работење: Спречување криминал или зајакнување на предрасудите?

КРЕДИТ НА СЛИКА:
Слика кредит
iStock

Предвидливо полициско работење: Спречување криминал или зајакнување на предрасудите?

Предвидливо полициско работење: Спречување криминал или зајакнување на предрасудите?

Текст за поднаслов
Сега се користат алгоритми за да се предвиди каде може следно да се случи кривично дело, но дали може да се верува дека податоците ќе останат објективни?
    • автор:
    • име на авторот
      Quantumrun Foresight
    • Може 25, 2023

    Користењето системи за вештачка интелигенција (ВИ) за да се идентификуваат обрасците на криминал и да се предложат опции за интервенција за да се спречат идни криминални активности може да биде ветувачка нова методологија за агенциите за спроведување на законот. Со анализа на податоци како што се извештаи за криминал, полициски досиеја и други релевантни информации, алгоритмите можат да идентификуваат обрасци и трендови кои може да бидат тешки за луѓето да ги откријат. Сепак, примената на вештачката интелигенција во спречувањето на криминалот покренува некои важни етички и практични прашања. 

    Предвидувачки полициски контекст

    Предвидливото полициско работење користи статистика и алгоритми за локалниот криминал за да прогнозира каде најверојатно ќе се случат злосторства. Некои обезбедувачи на предвидливо полициско работење дополнително ја изменија оваа технологија за да предвидат последователни земјотреси за да ги лоцираат областите каде што полицијата треба често да патролира за да ги одврати злосторствата. Настрана од „жешките точки“, технологијата користи локални податоци за апсење за да го идентификува типот на поединецот кој најверојатно ќе изврши злосторства. 

    Американскиот провајдер на софтвер за предвидливо полициско работење Geolitica (порано познат како PredPol), чија технологија моментално ја користат неколку ентитети за спроведување на законот, тврди дека тие ја отстраниле тркачката компонента во нивните збирки податоци за да го елиминираат прекумерното полициско следење на обоените луѓе. Сепак, некои независни студии спроведени од технолошката веб-страница Gizmodo и истражувачката организација The Citizen Lab открија дека алгоритмите всушност ги зајакнале предрасудите против ранливите заедници.

    На пример, полициската програма која користеше алгоритам за да предвиди кој е изложен на ризик да се вклучи во насилен криминал поврзан со оружје, се соочи со критики откако беше откриено дека 85 отсто од оние кои се идентификувани како со највисоки ризични резултати се мажи од Афроамериканец, некои со нема претходно насилно криминално досие. Програмата, наречена Список на стратешки теми, се најде под лупа во 2017 година кога Chicago Sun-Times ја доби и објави базата на податоци за листата. Овој инцидент го нагласува потенцијалот за пристрасност во користењето на вештачката интелигенција во спроведувањето на законот и важноста од внимателно разгледување на потенцијалните ризици и последици пред да се имплементираат овие системи.

    Нарушувачко влијание

    Има некои придобивки од предвидливото полициско работење ако се прави правилно. Превенцијата на криминалот е голема предност, како што потврди полицискиот оддел во Лос Анџелес, кој рече дека нивните алгоритми резултирале со 19 отсто намалување на кражбите во посочените жаришта. Друга придобивка е одлучувањето засновано на број, каде податоците ги диктираат моделите, а не човечките предрасуди. 

    Сепак, критичарите нагласуваат дека бидејќи овие збирки на податоци се добиени од локални полициски оддели, кои имале историја на апсење повеќе луѓе со обоени бои (особено Афроамериканци и Латиноамериканци), шемите само ги истакнуваат постоечките предрасуди против овие заедници. Според истражувањето на Gizmodo користејќи податоци од Geolitica и неколку агенции за спроведување на законот, предвидувањата на Geolitica имитираат реални обрасци на прекумерна полиција и идентификување на црните и латино заедниците, дури и поединци во овие групи со нула евиденција за апсење. 

    Организациите за граѓански права изразија загриженост поради зголемената употреба на предвидливо полициско работење без соодветно управување и регулаторни политики. Некои тврдат дека зад овие алгоритми се користат „валкани податоци“ (цифри добиени преку корумпирани и незаконски практики), а агенциите што ги користат ги кријат овие предрасуди зад „технолошки перење“ (тврдејќи дека оваа технологија е објективна едноставно затоа што нема човечка интервенција).

    Друга критика со која се соочува предвидливото полициско работење е дека често е тешко за јавноста да разбере како функционираат овие алгоритми. Овој недостаток на транспарентност може да го отежне да се побараат одговорност од органите за спроведување на законот за одлуките што ги носат врз основа на предвидувањата на овие системи. Според тоа, многу организации за човекови права бараат забрана на предвидливите полициски технологии, особено технологијата за препознавање лица. 

    Импликации на предвидливо полициско работење

    Пошироките импликации на предвидливото полициско работење може да вклучуваат:

    • Граѓанските права и маргинализираните групи кои лобираат и возвраќаат против широката употреба на предвидливо полициско работење, особено во заедниците на обоените.
    • Притисок за владата да наметне политика или оддел за надзор за да се ограничи како се користи предвидливото полициско работење. Идното законодавство може да ги принуди полициските агенции да користат податоци за профилирање на граѓани без пристрасност од трети страни одобрени од владата за да ги обучат нивните соодветни алгоритми за предвидливо полициско работење.
    • Повеќе агенции за спроведување на законот ширум светот се потпираат на некоја форма на предвидливо полициско работење за да ги надополнат нивните стратегии за патролирање.
    • Авторитарните влади користат модифицирани верзии на овие алгоритми за да предвидат и спречат протести на граѓаните и други јавни нарушувања.
    • Повеќе земји ги забрануваат технологиите за препознавање лица во нивните агенции за спроведување на законот под зголемен притисок од јавноста.
    • Зголемени тужби против полициските агенции за злоупотреба на алгоритми што довеле до незаконски или погрешни апсења.

    Прашања што треба да се разгледаат

    • Дали мислите дека треба да се користи предвидливо полициско работење?
    • Што мислите, како алгоритмите за предвидување на полицијата ќе го променат начинот на кој се спроведува правдата?