Прогнозна поліція: запобігання злочинам чи посилення упереджень?

• Автор:
• ім'я автора

  Quantumrun Foresight
• Травень 25, 2023

Використання систем штучного інтелекту (ШІ) для виявлення моделей злочинності та пропонування варіантів втручання для запобігання злочинній діяльності в майбутньому може стати новою багатообіцяючою методологією для правоохоронних органів. Аналізуючи такі дані, як звіти про злочини, поліцейські записи та іншу відповідну інформацію, алгоритми можуть ідентифікувати моделі та тенденції, які людям може бути важко виявити. Однак застосування штучного інтелекту в запобіганні злочинності викликає деякі важливі етичні та практичні питання. 

Інтелектуальний поліцейський контекст

Прогнозна поліцейська робота використовує місцеву статистику та алгоритми злочинності, щоб передбачити, де злочини найімовірніше відбудуться далі. Деякі провайдери інтелектуальної поліцейської служби додатково модифікували цю технологію для прогнозування афтершоків землетрусу, щоб точно визначити райони, де поліція повинна часто патрулювати для запобігання злочинам. Окрім «гарячих точок», техніка використовує дані про місцеві арешти, щоб визначити тип особи, яка ймовірно скоїть злочин. 

Американський постачальник програмного забезпечення для інтелектуальної поліцейської діяльності Geolitica (раніше відомий як PredPol), чия технологія наразі використовується кількома правоохоронними органами, стверджує, що вони видалили расовий компонент у своїх наборах даних, щоб усунути надмірну поліцію щодо кольорових людей. Однак деякі незалежні дослідження, проведені технічним веб-сайтом Gizmodo та дослідницькою організацією The Citizen Lab, виявили, що алгоритми фактично посилюють упередження щодо вразливих спільнот.

Наприклад, поліцейська програма, яка використовувала алгоритм для прогнозування того, хто ризикує бути втягнутим у насильницькі злочини, пов’язані зі зброєю, піддалася критиці після того, як виявилося, що 85 відсотків тих, хто має найвищий рівень ризику, були афроамериканцями, деякі з яких відсутність судимостей у минулому. Програма під назвою Strategic Subject List потрапила під пильну увагу в 2017 році, коли Chicago Sun-Times отримала та опублікувала базу даних списку. Цей інцидент підкреслює потенціал упередженості при використанні ШІ в правоохоронних органах і важливість ретельного розгляду потенційних ризиків і наслідків перед впровадженням цих систем.

Руйнівний вплив

Існують деякі переваги інтелектуальної поліцейської діяльності, якщо вона виконується правильно. Запобігання злочинам є головною перевагою, як підтверджено Департаментом поліції Лос-Анджелеса, який сказав, що їхні алгоритми призвели до 19-відсоткового скорочення крадіжок у вказаних гарячих точках. Ще однією перевагою є прийняття рішень на основі чисел, коли дані визначають закономірності, а не людські упередження. 

Однак критики наголошують, що оскільки ці набори даних отримані з місцевих відділів поліції, які мали історію арештів більшої кількості кольорових людей (зокрема афроамериканців та латиноамериканців), шаблони лише підкреслюють існуючі упередження щодо цих спільнот. Згідно з дослідженням Gizmodo з використанням даних Geolitica та кількох правоохоронних органів, передбачення Geolitica імітують реальні моделі надмірного контролю та ідентифікації чорних і латиноамериканських спільнот, навіть осіб у цих групах із нульовими записами про арешти. 

Правозахисні організації висловлюють занепокоєння з приводу все більшого використання інтелектуальної поліцейської служби без належного управління та регуляторної політики. Дехто стверджував, що за цими алгоритмами використовуються «брудні дані» (цифри, отримані через корупційні та незаконні дії), а агентства, які їх використовують, приховують ці упередження за «відмиванням технологій» (стверджуючи, що ця технологія є об’єктивною просто тому, що немає втручання людини).

Ще одна критика, з якою стикається інтелектуальна поліція, полягає в тому, що громадськості часто важко зрозуміти, як працюють ці алгоритми. Відсутність прозорості може ускладнити притягнення правоохоронних органів до відповідальності за рішення, які вони ухвалюють на основі передбачень цих систем. Відповідно, багато правозахисних організацій закликають заборонити прогностичні поліцейські технології, зокрема технологію розпізнавання облич. 

Наслідки інтелектуальної поліцейської діяльності

Більш широкі наслідки інтелектуальної поліцейської діяльності можуть включати:

• Громадянські права та маргіналізовані групи лобіюють і протидіють широкому використанню інтелектуальної поліцейської діяльності, особливо в кольорових громадах.
• Тиск на уряд з метою запровадити політику нагляду або департамент, щоб обмежити використання інтелектуальної поліцейської діяльності. Майбутнє законодавство може змусити поліцейські органи використовувати неупереджені дані профілювання громадян від третіх сторін, затверджених урядом, для навчання своїх відповідних алгоритмів прогнозування поліції.
• Більше правоохоронних органів у всьому світі покладаються на певну форму передбачуваної поліцейської діяльності, щоб доповнити свої стратегії патрулювання.
• Авторитарні уряди використовують модифіковані версії цих алгоритмів для прогнозування та запобігання протестам громадян та іншим громадським заворушенням.
• Все більше країн забороняють технології розпізнавання облич у своїх правоохоронних органах під зростаючим тиском громадськості.
• Збільшення кількості позовів проти поліцейських органів за неправильне використання алгоритмів, що призвело до незаконних або помилкових арештів.

Питання для розгляду

• Як ви вважаєте, чи слід використовувати інтелектуальну поліцію?
• Як, на вашу думку, прогнозні алгоритми поліцейської діяльності змінять спосіб здійснення правосуддя?