Квантумрун

Кредит суреті:

iStock

Болжалды полиция қызметі: қылмыстың алдын алу немесе біржақтылықты күшейту?

Алгоритмдер енді қылмыстың қай жерде болуы мүмкін екенін болжау үшін пайдаланылады, бірақ деректер объективті болып қалады деп сенуге бола ма?

автор:
Автордың аты-жөні
Кванттық болжау
Мамыр 25, 2023

Қылмыс үлгілерін анықтау және болашақ қылмыстық әрекеттердің алдын алу үшін араласу нұсқаларын ұсыну үшін жасанды интеллект (AI) жүйелерін пайдалану құқық қорғау органдары үшін перспективалы жаңа әдістеме болуы мүмкін. Қылмыс туралы есептер, полиция жазбалары және басқа да тиісті ақпарат сияқты деректерді талдау арқылы алгоритмдер адамдарға анықтау қиын болуы мүмкін үлгілер мен үрдістерді анықтай алады. Дегенмен, қылмыстың алдын алуда AI қолдану кейбір маңызды этикалық және практикалық сұрақтарды тудырады.

Болжалды полиция контексі

Болжалды полиция қызметі жергілікті қылмыс статистикасы мен алгоритмдерді келесі қылмыстардың қай жерде орын алу ықтималдығын болжау үшін пайдаланады. Кейбір болжамды полиция провайдерлері полиция қылмыстардың алдын алу үшін жиі патрульдеу керек аймақтарды анықтау үшін жер сілкінісін болжау үшін осы технологияны одан әрі өзгертті. «Ыстық нүктелерден» басқа, технология қылмыс жасауы мүмкін адамның түрін анықтау үшін жергілікті тұтқындау деректерін пайдаланады.

Технологиясын қазіргі уақытта бірнеше құқық қорғау органдары пайдаланып жатқан АҚШ-тың болжамды полиция бағдарламалық қамтамасыз ету провайдері Geolitica (бұрынғы аты PredPol) түрлі-түсті адамдарға шамадан тыс тәртіпсіздікті жою үшін жарыс құрамдастарын деректер жиынынан алып тастағанын мәлімдейді. Дегенмен, Gizmodo технологиялық веб-сайты мен The Citizen Lab зерттеу ұйымы жүргізген кейбір тәуелсіз зерттеулер алгоритмдер шынымен осал қауымдастықтарға қарсы көзқарасты күшейтетінін анықтады.

Мысалы, зорлық-зомбылықпен байланысты қылмысқа кімнің қатысу қаупі бар екенін болжау үшін алгоритмді пайдаланған полиция бағдарламасы ең жоғары тәуекел ұпайлары бар деп анықталғандардың 85 пайызы афроамерикалық ер адамдар, ал кейбіреулері бұрын зорлық-зомбылық жасағаны жоқ. Стратегиялық тақырыптар тізімі деп аталатын бағдарлама 2017 жылы Chicago Sun-Times тізімнің дерекқорын алып, жариялаған кезде мұқият тексерілді. Бұл оқиға AI-ны құқық қорғау органдарында пайдаланудағы біржақтылық әлеуетін және осы жүйелерді енгізер алдында ықтимал тәуекелдер мен салдарды мұқият қарастырудың маңыздылығын көрсетеді.

Деструктивті әсер

Дұрыс орындалған жағдайда болжамды полицияның кейбір артықшылықтары бар. Қылмыстың алдын алу маңызды артықшылық болып табылады, оны Лос-Анджелес полиция департаменті растады, олардың алгоритмдері көрсетілген ыстық нүктелердегі ұрлықтарды 19 пайызға қысқартты. Тағы бір артықшылығы - бұл сандарға негізделген шешім қабылдау, мұнда деректер адамның бейімділігін емес, заңдылықты талап етеді.

Дегенмен, сыншылар бұл деректер жиынтығы түрлі-түсті адамдарды (әсіресе афроамерикалықтар мен латын американдықтарын) тұтқындау тарихы бар жергілікті полиция бөлімшелерінен алынғандықтан, үлгілер тек осы қауымдастықтарға қарсы бар бейтараптықты көрсетеді деп атап көрсетеді. Gizmodo компаниясының Geolitica және бірнеше құқық қорғау органдарының деректерін пайдалана отырып жүргізген зерттеулеріне сәйкес, Geolitica болжамдары қара және латино қауымдастықтарын, тіпті нөлдік қамауға алу жазбалары бар осы топтардың жеке тұлғаларын анықтау және анықтаудың нақты өмірлік үлгілеріне ұқсайды.

Азаматтық құқықтарды қорғау ұйымдары тиісті басқару мен реттеу саясатынсыз болжамды полицияны қолданудың көбеюіне алаңдаушылық білдірді. Кейбіреулер бұл алгоритмдердің артында «лас деректер» (сыбайлас және заңсыз тәжірибелер арқылы алынған сандар) пайдаланылады және оларды пайдаланатын агенттіктер «технологиялық жуудың» артына бұл қиғаштықтарды жасырады (бұл технология объективті, өйткені бұл технология объективті деп мәлімдейді) адамның араласуы).

Болжалды полицияға тап болатын тағы бір сын - бұл алгоритмдердің қалай жұмыс істейтінін жұртшылыққа түсіну жиі қиын. Бұл ашықтықтың болмауы құқық қорғау органдарын осы жүйелердің болжамдарына негізделген шешімдері үшін жауапкершілікке тартуды қиындатады. Сәйкесінше, көптеген құқық қорғау ұйымдары полицияның болжамды технологияларына, әсіресе бет-әлпетті тану технологиясына тыйым салуға шақырады.

Болжалды полицияның салдары

Болжамдық полицияның кеңірек салдары мыналарды қамтуы мүмкін:

Азаматтық құқықтар мен маргиналданған топтар, әсіресе түрлі-түсті қоғамдастықтар ішінде болжамды полицияның кеңінен қолданылуына қарсы лобби жасап, кері итермелейді.
Болжалды полицияның қолданылуын шектеу үшін үкіметтің қадағалау саясатын немесе департаментін енгізуге қысым жасау. Болашақ заңнама полиция органдарын өздерінің болжамды полиция алгоритмдерін үйрету үшін үкімет бекіткен үшінші тараптардың азаматтардың бейтарап деректерін пайдалануға мәжбүр етуі мүмкін.
Дүние жүзінде көбірек құқық қорғау органдары патрульдік стратегияларын толықтыру үшін болжамды полицияның қандай да бір түріне сүйенеді.
Авторитарлық үкіметтер азаматтардың наразылықтарын және басқа да қоғамдық тәртіпсіздіктерді болжау және алдын алу үшін осы алгоритмдердің өзгертілген нұсқаларын пайдаланады.
Қоғамның қысымының артуы жағдайында құқық қорғау органдарында бет-әлпетті тану технологияларына тыйым салатын елдер көбейіп кетті.
Заңсыз немесе қате тұтқындауға әкелген алгоритмдерді дұрыс пайдаланбағаны үшін полиция органдарына қарсы сот процестерінің артуы.