Прогностическая полиция: предотвращение преступлений или усиление предубеждений?

• Автор:
• Имя автора

  Квантумран Форсайт
• 25 мая 2023

Использование систем искусственного интеллекта (ИИ) для выявления моделей преступности и предложения вариантов вмешательства для предотвращения преступной деятельности в будущем может стать многообещающей новой методологией для правоохранительных органов. Анализируя такие данные, как отчеты о преступлениях, полицейские отчеты и другую соответствующую информацию, алгоритмы могут выявлять закономерности и тенденции, которые людям может быть трудно обнаружить. Однако применение ИИ в предупреждении преступности поднимает ряд важных этических и практических вопросов. 

Прогнозирующий полицейский контекст

Прогностическая полиция использует локальную статистику преступлений и алгоритмы, чтобы прогнозировать, где преступления с наибольшей вероятностью произойдут в следующий раз. Некоторые поставщики услуг прогнозирования дополнительно модифицировали эту технологию, чтобы прогнозировать повторные толчки землетрясений, чтобы точно определить области, где полиция должна часто патрулировать для предотвращения преступлений. Помимо «горячих точек», технология использует местные данные об арестах, чтобы определить тип человека, который может совершить преступление. 

Американский поставщик программного обеспечения для предиктивной полицейской деятельности Geolitica (ранее известный как PredPol), чья технология в настоящее время используется несколькими правоохранительными органами, утверждает, что они удалили компонент расы в своих наборах данных, чтобы исключить чрезмерное наблюдение за цветными людьми. Однако некоторые независимые исследования, проведенные техническим веб-сайтом Gizmodo и исследовательской организацией Citizen Lab, показали, что алгоритмы на самом деле усиливают предубеждения против уязвимых сообществ.

Например, полицейская программа, в которой использовался алгоритм для прогнозирования рисков быть вовлеченными в насильственные преступления с применением огнестрельного оружия, подверглась критике после того, как выяснилось, что 85 процентов лиц, идентифицированных как имеющие самые высокие показатели риска, были афроамериканцами, некоторые из которых отсутствие судимостей за насильственные действия. Программа под названием «Список стратегических тем» подверглась тщательной проверке в 2017 году, когда газета Chicago Sun-Times получила и опубликовала базу данных списка. Этот инцидент подчеркивает возможность предвзятости при использовании ИИ в правоохранительных органах и важность тщательного рассмотрения потенциальных рисков и последствий перед внедрением этих систем.

Разрушительное воздействие

Если все сделано правильно, у предиктивной полиции есть некоторые преимущества. Предотвращение преступности является основным преимуществом, как подтвердило полицейское управление Лос-Анджелеса, которое заявило, что их алгоритмы привели к 19-процентному сокращению краж со взломом в указанных горячих точках. Еще одним преимуществом является принятие решений на основе чисел, когда данные диктуют закономерности, а не человеческие предубеждения. 

Однако критики подчеркивают, что, поскольку эти наборы данных получены от местных отделений полиции, которые в прошлом арестовывали больше цветных людей (особенно афроамериканцев и латиноамериканцев), закономерности просто подчеркивают существующие предубеждения против этих сообществ. Согласно исследованию Gizmodo, использующему данные Geolitica и нескольких правоохранительных органов, прогнозы Geolitica имитируют реальные модели чрезмерной полицейской деятельности и выявления чернокожих и латиноамериканских сообществ, даже лиц в этих группах с нулевым количеством арестов. 

Правозащитные организации выразили обеспокоенность по поводу более широкого использования предиктивной полиции без надлежащего управления и политики регулирования. Некоторые утверждают, что за этими алгоритмами стоят «грязные данные» (цифры, полученные в результате коррупционных и незаконных практик), а агентства, которые их используют, скрывают эти предубеждения за «отмыванием технологий» (утверждая, что эта технология объективна просто потому, что в ней нет вмешательство человека).

Еще одна критика, с которой сталкивается интеллектуальная полиция, заключается в том, что общественности часто трудно понять, как работают эти алгоритмы. Отсутствие прозрачности может затруднить привлечение правоохранительных органов к ответственности за решения, которые они принимают на основе прогнозов этих систем. Соответственно, многие правозащитные организации призывают к запрету интеллектуальных полицейских технологий, особенно технологии распознавания лиц. 

Последствия предиктивной полицейской деятельности

Более широкие последствия предиктивной полицейской деятельности могут включать:

• Гражданские права и маргинализированные группы лоббируют и противодействуют широкому использованию предиктивной полиции, особенно в цветных сообществах.
• Давление на правительство с целью ввести политику надзора или отдел, чтобы ограничить использование прогностической полиции. Будущее законодательство может заставить полицейские агентства использовать непредвзятые данные профилирования граждан от одобренных правительством третьих сторон для обучения своих соответствующих алгоритмов прогнозирования полицейских.
• Все больше правоохранительных органов во всем мире полагаются на какую-либо форму предиктивной полицейской деятельности в дополнение к своим стратегиям патрулирования.
• Авторитарные правительства используют модифицированные версии этих алгоритмов для прогнозирования и предотвращения протестов граждан и других общественных беспорядков.
• Все больше стран запрещают технологии распознавания лиц в своих правоохранительных органах под растущим давлением общественности.
• Увеличение числа судебных исков против полицейских органов за неправомерное использование алгоритмов, которое привело к незаконным или ошибочным арестам.

Вопросы для рассмотрения

• Считаете ли вы, что следует использовать предиктивную полицию?
• Как, по вашему мнению, предиктивные полицейские алгоритмы изменят способ отправления правосудия?