Прогностична полиция: Предотвратяване на престъпления или засилване на предразсъдъците?

КРЕДИТ ЗА ИЗОБРАЖЕНИЕ:
Изображение на кредит
iStock

Прогностична полиция: Предотвратяване на престъпления или засилване на предразсъдъците?

Прогностична полиция: Предотвратяване на престъпления или засилване на предразсъдъците?

Подзаглавен текст
Сега се използват алгоритми, за да се предвиди къде след това може да се случи престъпление, но може ли да се вярва, че данните ще останат обективни?
    • Автор:
    • име Автор
      Quantumrun Foresight
    • Май 25, 2023

    Използването на системи с изкуствен интелект (AI) за идентифициране на модели на престъпност и предлагане на опции за намеса за предотвратяване на бъдеща престъпна дейност може да бъде обещаваща нова методология за правоприлагащите органи. Чрез анализиране на данни като доклади за престъпления, полицейски досиета и друга подходяща информация, алгоритмите могат да идентифицират модели и тенденции, които може да са трудни за откриване от хората. Въпреки това, приложението на ИИ в превенцията на престъпността повдига някои важни етични и практически въпроси. 

    Предсказуем полицейски контекст

    Предсказуемата полицейска дейност използва местна статистика за престъпленията и алгоритми, за да прогнозира къде е най-вероятно да се появят престъпления след това. Някои доставчици на предсказуема полиция са модифицирали допълнително тази технология, за да предскажат вторични трусове при земетресение, за да определят зоните, където полицията трябва често да патрулира, за да възпира престъпленията. Освен „горещите точки“, технологията използва данни за местни арести, за да идентифицира вида на лицето, което е вероятно да извърши престъпление. 

    Базираният в САЩ доставчик на предсказуем полицейски софтуер Geolitica (известен преди като PredPol), чиято технология в момента се използва от няколко правоприлагащи органи, твърди, че са премахнали расовия компонент в своите набори от данни, за да премахнат прекомерното полицейско наблюдение на цветнокожи. Въпреки това, някои независими проучвания, проведени от технологичния уебсайт Gizmodo и изследователската организация The Citizen Lab, установиха, че алгоритмите всъщност засилват предразсъдъците срещу уязвимите общности.

    Например полицейска програма, която използва алгоритъм за предсказване кой е изложен на риск да се замеси в насилствени престъпления, свързани с оръжие, беше критикувана, след като беше разкрито, че 85 процента от идентифицираните като имащи най-висок риск са били афроамериканци, някои с без предишно криминално досие с насилие. Програмата, наречена Strategic Subject List, беше подложена на контрол през 2017 г., когато Chicago Sun-Times получи и публикува база данни от списъка. Този инцидент подчертава потенциала за пристрастия при използването на ИИ в правоприлагането и важността на внимателното разглеждане на потенциалните рискове и последствия преди прилагането на тези системи.

    Разрушително въздействие

    Има някои ползи от предсказуемата полиция, ако се направи правилно. Предотвратяването на престъпността е голямо предимство, както беше потвърдено от полицейското управление на Лос Анджелис, което каза, че техните алгоритми са довели до 19% намаление на кражбите в рамките на посочените горещи точки. Друго предимство е вземането на решения въз основа на числа, където данните диктуват модели, а не човешки пристрастия. 

    Критиците обаче подчертават, че тъй като тези набори от данни са получени от местните полицейски управления, които са имали история на арестуване на повече цветнокожи (особено афро-американци и латиноамериканци), моделите просто подчертават съществуващите пристрастия срещу тези общности. Според изследването на Gizmodo, използващо данни от Geolitica и няколко правоприлагащи агенции, прогнозите на Geolitica имитират реални модели на прекомерна полиция и идентифициране на чернокожи и латиноамерикански общности, дори лица в тези групи с нулеви записи за задържане. 

    Организациите за граждански права изразиха загриженост относно нарастващото използване на предсказуема полиция без подходящо управление и регулаторни политики. Някои твърдят, че „мръсни данни“ (цифри, получени чрез корупционни и незаконни практики) се използват зад тези алгоритми, а агенциите, които ги използват, крият тези пристрастия зад „измиване на технологии“ (твърдейки, че тази технология е обективна, просто защото няма човешка намеса).

    Друга критика, пред която е изправена предсказуемата полиция, е, че често е трудно за обществеността да разбере как работят тези алгоритми. Тази липса на прозрачност може да затрудни държането на правоприлагащите органи отговорни за решенията, които вземат въз основа на прогнозите на тези системи. Съответно много правозащитни организации призовават за забраната на предсказуемите полицейски технологии, особено технологията за разпознаване на лица. 

    Последици от предсказуемата полиция

    По-широките последици от предсказуемата полиция могат да включват:

    • Граждански права и маргинализирани групи, които лобират и се противопоставят на широко разпространеното използване на предсказуема полиция, особено в общностите на цвета на кожата.
    • Натиск върху правителството да наложи политика за надзор или отдел, за да ограничи начина, по който се използва предсказуема полиция. Бъдещото законодателство може да принуди полицейските агенции да използват безпристрастни данни за профилиране на граждани от одобрени от правителството трети страни, за да обучат своите съответни предсказуеми полицейски алгоритми.
    • Повече правоприлагащи агенции по света разчитат на някаква форма на предсказуема полиция, за да допълнят своите стратегии за патрулиране.
    • Авторитарните правителства използват модифицирани версии на тези алгоритми за прогнозиране и предотвратяване на граждански протести и други обществени смущения.
    • Все повече държави забраняват технологиите за лицево разпознаване в своите правоприлагащи агенции под нарастващ натиск от страна на обществеността.
    • Увеличени дела срещу полицейски агенции за злоупотреба с алгоритми, довели до незаконни или погрешни арести.

    Въпроси за разглеждане

    • Смятате ли, че трябва да се използва предсказуема полиция?
    • Как мислите, че предсказуемите полицейски алгоритми ще променят начина, по който се прилага правосъдието?