ตำรวจเชิงคาดการณ์: ป้องกันอาชญากรรมหรือเสริมสร้างอคติ?
ตำรวจเชิงคาดการณ์: ป้องกันอาชญากรรมหรือเสริมสร้างอคติ?
ตำรวจเชิงคาดการณ์: ป้องกันอาชญากรรมหรือเสริมสร้างอคติ?
- เขียนโดย:
- May 25, 2023
การใช้ระบบปัญญาประดิษฐ์ (AI) เพื่อระบุรูปแบบอาชญากรรมและแนะนำตัวเลือกการแทรกแซงเพื่อป้องกันกิจกรรมทางอาญาในอนาคตอาจเป็นวิธีการใหม่ที่มีแนวโน้มสำหรับหน่วยงานบังคับใช้กฎหมาย ด้วยการวิเคราะห์ข้อมูล เช่น รายงานอาชญากรรม บันทึกของตำรวจ และข้อมูลที่เกี่ยวข้องอื่นๆ อัลกอริทึมสามารถระบุรูปแบบและแนวโน้มที่มนุษย์อาจตรวจพบได้ยาก อย่างไรก็ตาม การประยุกต์ใช้ AI ในการป้องกันอาชญากรรมทำให้เกิดคำถามทางจริยธรรมและการปฏิบัติที่สำคัญบางประการ
บริบทการรักษาเชิงคาดการณ์
การตรวจรักษาเชิงคาดการณ์จะใช้สถิติอาชญากรรมในท้องถิ่นและอัลกอริทึมเพื่อคาดการณ์ว่าอาชญากรรมใดมีแนวโน้มที่จะเกิดขึ้นต่อไป ผู้ให้บริการตำรวจเชิงคาดการณ์บางรายได้ปรับปรุงเทคโนโลยีนี้เพิ่มเติมเพื่อทำนายอาฟเตอร์ช็อกจากแผ่นดินไหว เพื่อระบุจุดที่ตำรวจควรออกตรวจตราบ่อยๆ เพื่อป้องปรามอาชญากรรม นอกเหนือจาก “ฮอตสปอต” แล้ว เทคโนโลยียังใช้ข้อมูลการจับกุมในท้องถิ่นเพื่อระบุประเภทของบุคคลที่มีแนวโน้มที่จะก่ออาชญากรรม
Geolitica ผู้ให้บริการซอฟต์แวร์ตรวจการณ์ตำรวจในสหรัฐฯ (เดิมชื่อ PredPol) ซึ่งเทคโนโลยีนี้กำลังถูกใช้งานโดยหน่วยงานบังคับใช้กฎหมายหลายแห่ง อ้างว่าพวกเขาได้ลบองค์ประกอบการแข่งขันลงในชุดข้อมูลของตนเพื่อกำจัดการรักษามากเกินไปของคนผิวสี อย่างไรก็ตาม การศึกษาอิสระบางชิ้นที่จัดทำโดยเว็บไซต์เทคโนโลยี Gizmodo และองค์กรวิจัย The Citizen Lab พบว่าอัลกอริทึมจริง ๆ แล้วเสริมอคติต่อชุมชนที่มีช่องโหว่
ตัวอย่างเช่น โครงการของตำรวจที่ใช้อัลกอริธึมในการทำนายว่าใครมีความเสี่ยงที่จะเข้าไปพัวพันกับอาชญากรรมที่เกี่ยวข้องกับการใช้ปืนรุนแรง ต้องเผชิญกับเสียงวิพากษ์วิจารณ์หลังจากมีการเปิดเผยว่า 85 เปอร์เซ็นต์ของผู้ที่ถูกระบุว่ามีคะแนนความเสี่ยงสูงสุดคือชายชาวแอฟริกันอเมริกัน บางคนมี ไม่มีประวัติอาชญากรรมรุนแรงมาก่อน โปรแกรมที่เรียกว่า Strategic Subject List ถูกตรวจสอบในปี 2017 เมื่อ Chicago Sun-Times ได้รับและเผยแพร่ฐานข้อมูลของรายการ เหตุการณ์นี้เน้นให้เห็นถึงศักยภาพของอคติในการใช้ AI ในการบังคับใช้กฎหมาย และความสำคัญของการพิจารณาอย่างรอบคอบถึงความเสี่ยงและผลที่ตามมาก่อนที่จะนำระบบเหล่านี้ไปใช้
ผลกระทบก่อกวน
การตรวจรักษาแบบคาดการณ์ล่วงหน้ามีประโยชน์บางประการหากทำถูกต้อง การป้องกันอาชญากรรมเป็นข้อได้เปรียบที่สำคัญ ตามที่ได้รับการยืนยันจากกรมตำรวจลอสแองเจลีส ซึ่งกล่าวว่าอัลกอริทึมของพวกเขาส่งผลให้การลักขโมยภายในฮอตสปอตที่ระบุลดลง 19 เปอร์เซ็นต์ ข้อดีอีกอย่างคือการตัดสินใจโดยใช้ตัวเลข โดยที่ข้อมูลเป็นตัวกำหนดรูปแบบ ไม่ใช่อคติของมนุษย์
อย่างไรก็ตาม นักวิจารณ์เน้นย้ำว่าเนื่องจากชุดข้อมูลเหล่านี้ได้มาจากหน่วยงานตำรวจท้องที่ ซึ่งเคยมีประวัติการจับกุมคนผิวสีจำนวนมาก (โดยเฉพาะชาวแอฟริกัน-อเมริกันและละตินอเมริกา) รูปแบบดังกล่าวเน้นให้เห็นถึงอคติที่มีอยู่ต่อชุมชนเหล่านี้เท่านั้น จากการวิจัยของ Gizmodo โดยใช้ข้อมูลจาก Geolitica และหน่วยงานบังคับใช้กฎหมายหลายแห่ง การคาดการณ์ของ Geolitica เลียนแบบรูปแบบในชีวิตจริงของการบังคับใช้กฎหมายมากเกินไปและการระบุชุมชนคนผิวดำและชาวละติน แม้แต่บุคคลในกลุ่มเหล่านี้ที่ไม่มีประวัติการจับกุม
องค์กรด้านสิทธิพลเมืองได้แสดงความกังวลเกี่ยวกับการใช้การตรวจรักษาแบบคาดคะเนที่เพิ่มขึ้นโดยไม่มีนโยบายการกำกับดูแลและกฎระเบียบที่เหมาะสม บางคนแย้งว่า “ข้อมูลสกปรก” (ตัวเลขที่ได้มาจากการปฏิบัติที่ทุจริตและผิดกฎหมาย) ถูกใช้เบื้องหลังอัลกอริทึมเหล่านี้ และหน่วยงานที่ใช้ข้อมูลเหล่านี้กำลังซ่อนอคติเหล่านี้ไว้เบื้องหลัง “การล้างข้อมูลเทคโนโลยี” (อ้างว่าเทคโนโลยีนี้มีจุดมุ่งหมายเพียงเพราะไม่มี การแทรกแซงของมนุษย์)
คำวิจารณ์อีกประการหนึ่งที่ต้องเผชิญกับการรักษาแบบคาดคะเนก็คือ ประชาชนมักจะเข้าใจวิธีการทำงานของอัลกอริทึมเหล่านี้ได้ยาก การขาดความโปร่งใสนี้อาจทำให้เป็นการยากที่จะให้หน่วยงานบังคับใช้กฎหมายรับผิดชอบต่อการตัดสินใจที่ดำเนินการตามการคาดการณ์ของระบบเหล่านี้ ด้วยเหตุนี้ องค์กรด้านสิทธิมนุษยชนหลายแห่งจึงเรียกร้องให้มีการห้ามเทคโนโลยีตำรวจคาดการณ์ล่วงหน้า โดยเฉพาะเทคโนโลยีการจดจำใบหน้า
ผลกระทบของการตรวจรักษาแบบคาดการณ์
ความหมายที่กว้างกว่าของการรักษาแบบคาดคะเนอาจรวมถึง:
- สิทธิพลเมืองและกลุ่มคนชายขอบวิ่งเต้นและต่อต้านการใช้ตำรวจคาดการณ์อย่างแพร่หลาย โดยเฉพาะในชุมชนของคนผิวสี
- แรงกดดันให้รัฐบาลกำหนดนโยบายการกำกับดูแลหรือหน่วยงานเพื่อจำกัดวิธีการใช้การตรวจรักษาเชิงคาดการณ์ กฎหมายในอนาคตอาจบังคับให้หน่วยงานตำรวจใช้ข้อมูลโปรไฟล์พลเมืองที่ปราศจากอคติจากบุคคลที่สามที่รัฐบาลอนุมัติเพื่อฝึกอัลกอริทึมการรักษาเชิงคาดการณ์ที่เกี่ยวข้อง
- หน่วยงานบังคับใช้กฎหมายจำนวนมากขึ้นทั่วโลกอาศัยรูปแบบการตรวจรักษาเชิงคาดการณ์เพื่อเสริมกลยุทธ์การลาดตระเวนของตน
- รัฐบาลเผด็จการใช้อัลกอริธึมเวอร์ชันที่แก้ไขแล้วเพื่อทำนายและป้องกันการประท้วงของพลเมืองและการรบกวนสาธารณะอื่น ๆ
- ประเทศอื่นๆ สั่งห้ามเทคโนโลยีการจดจำใบหน้าในหน่วยงานบังคับใช้กฎหมายภายใต้แรงกดดันที่เพิ่มขึ้นจากสาธารณชน
- เพิ่มการฟ้องร้องต่อหน่วยงานตำรวจสำหรับการใช้อัลกอริธึมในทางที่ผิดซึ่งนำไปสู่การจับกุมที่ไม่ชอบด้วยกฎหมายหรือผิดพลาด
คำถามที่ต้องพิจารณา
- คุณคิดว่าควรใช้การตรวจรักษาเชิงคาดการณ์หรือไม่?
- คุณคิดว่าอัลกอริทึมการรักษาเชิงคาดการณ์จะเปลี่ยนวิธีดำเนินการตามความยุติธรรมได้อย่างไร
ข้อมูลอ้างอิงเชิงลึก
ลิงก์ที่เป็นที่นิยมและลิงก์สถาบันต่อไปนี้ถูกอ้างอิงสำหรับข้อมูลเชิงลึกนี้:
