שיטור חזוי: מניעת פשע או חיזוק הטיות?

• מְחַבֵּר:
• שם היוצר

  Quantumrun Foresight
• מאי 25, 2023

שימוש במערכות בינה מלאכותית (AI) כדי לזהות דפוסי פשיעה ולהציע אפשרויות התערבות למניעת פעילות פלילית עתידית יכולה להיות מתודולוגיה חדשה ומבטיחה עבור רשויות אכיפת החוק. על ידי ניתוח נתונים כגון דוחות פשע, רישומי משטרה ומידע רלוונטי אחר, אלגוריתמים יכולים לזהות דפוסים ומגמות שעשויים להיות קשים לזיהוי של בני אדם. עם זאת, היישום של AI במניעת פשע מעלה כמה שאלות אתיות ומעשיות חשובות. 

הקשר משטרתי חזוי

שיטור חזוי משתמש בסטטיסטיקות פשיעה מקומיות ובאלגוריתמים כדי לחזות היכן פשעים צפויים להתרחש בשלב הבא. כמה ספקי שיטור חזוי שינו עוד יותר את הטכנולוגיה הזו כדי לחזות רעידות משנה כדי לאתר אזורים שבהם המשטרה צריכה לסייר לעתים קרובות כדי להרתיע פשעים. מלבד "נקודות חמות", הטכנולוגיה משתמשת בנתוני מעצרים מקומיים כדי לזהות את סוג הפרט שעלול לבצע פשעים. 

ספקית תוכנת השיטור החזוי בארה"ב Geolitica (שנודעה בעבר בשם PredPol), שהטכנולוגיה שלה נמצאת כיום בשימוש על ידי מספר גופי אכיפת חוק, טוענת כי הם הסירו את רכיב הגזע ממערכי הנתונים שלהם כדי למנוע שיטור יתר של אנשים צבעוניים. עם זאת, כמה מחקרים עצמאיים שנערכו על ידי אתר הטכנולוגיה Gizmodo וארגון המחקר The Citizen Lab מצאו שהאלגוריתמים למעשה חיזקו הטיות כלפי קהילות פגיעות.

לדוגמה, תוכנית משטרה שהשתמשה באלגוריתם כדי לחזות מי נמצא בסיכון להיות מעורב בפשע אלים הקשור לנשק ספגה ביקורת לאחר שנחשף כי 85 אחוז מאלה שזוהו כבעלי ציוני הסיכון הגבוהים ביותר היו גברים אפרו-אמריקאים, חלקם עם ללא עבר פלילי אלים קודם. התוכנית, שנקראת רשימת הנושאים האסטרטגיים, נבדקה ב-2017 כאשר ה- Chicago Sun-Times השיג ופרסם מסד נתונים של הרשימה. אירוע זה מדגיש את הפוטנציאל להטיה בשימוש ב-AI באכיפת החוק ואת החשיבות של בחינת הסיכונים וההשלכות הפוטנציאליים לפני יישום מערכות אלו.

השפעה משבשת

ישנם כמה יתרונות לשיטור חזוי אם נעשה נכון. מניעת פשיעה היא יתרון גדול, כפי שאושרה על ידי משטרת לוס אנג'לס, שאמרה שהאלגוריתמים שלהם הביאו להפחתה של 19 אחוזים של פריצות בנקודות החמות המצוינות. יתרון נוסף הוא קבלת החלטות מבוססת מספר, שבה הנתונים מכתיבים דפוסים, לא הטיות אנושיות. 

עם זאת, המבקרים מדגישים שמכיוון שמסדי נתונים אלה מתקבלים ממחלקות המשטרה המקומיות, שהיו להן היסטוריה של מעצר של יותר אנשים צבעוניים (במיוחד אפרו-אמריקאים ואמריקה הלטינית), הדפוסים רק מדגישים הטיות קיימות כלפי קהילות אלה. על פי המחקר של Gizmodo תוך שימוש בנתונים מ-Geolitica ומספר סוכנויות אכיפת חוק, התחזיות של Geolitica מחקות דפוסים אמיתיים של שיטור-יתר וזיהוי קהילות שחורות ולטיניות, אפילו אנשים בתוך קבוצות אלה עם אפס רישומי מעצרים. 

ארגוני זכויות אזרח הביעו דאגה מהשימוש הגובר בשיטור חזוי ללא ממשל ומדיניות רגולטורית נאותה. יש שטענו שמאחורי האלגוריתמים האלה נעשה שימוש ב"נתונים מלוכלכים" (נתונים שהושגו באמצעות שיטות מושחתות ולא חוקיות, וסוכנויות המשתמשות בהם מסתירות את ההטיות הללו מאחורי "שטיפה טכנולוגית" (בטענה שהטכנולוגיה הזו אובייקטיבית פשוט כי אין התערבות אנושית).

ביקורת נוספת שעומדת בפני שיטור חזוי היא שלעתים קרובות קשה לציבור להבין כיצד האלגוריתמים הללו פועלים. חוסר השקיפות הזה יכול להקשות על לחייב את רשויות אכיפת החוק באחריות להחלטות שהם מקבלים על סמך התחזיות של מערכות אלו. בהתאם לכך, ארגוני זכויות אדם רבים קוראים לאסור על טכנולוגיות חזוי משטרה, במיוחד טכנולוגיית זיהוי פנים. 

השלכות של שיטור חזוי

השלכות רחבות יותר של שיטור חזוי עשויות לכלול:

• זכויות אזרח וקבוצות שוליות לובשות מאמץ ודוחקים נגד השימוש הנרחב במשטרה חזויה, במיוחד בתוך קהילות צבעוניות.
• לחץ על הממשלה להטיל מדיניות פיקוח או מחלקה כדי להגביל את אופן השימוש בשיטור חזוי. חקיקה עתידית עשויה לאלץ סוכנויות משטרה להשתמש בנתוני פרופיל אזרחים ללא הטיה מצד צדדים שלישיים שאושרו על ידי הממשלה כדי להכשיר את אלגוריתמי השיטור החזויים שלהם.
• יותר סוכנויות אכיפת חוק ברחבי העולם מסתמכות על צורה כלשהי של שיטור חזוי כדי להשלים את אסטרטגיות הסיור שלהן.
• ממשלות סמכותיות משתמשות בגרסאות מתוקנות של אלגוריתמים אלה כדי לחזות ולמנוע מחאות אזרחים והפרעות ציבוריות אחרות.
• מדינות נוספות האוסרות על טכנולוגיות זיהוי פנים בסוכנויות אכיפת החוק שלהן תחת לחץ הולך וגובר מצד הציבור.
• הגברת התביעות נגד רשויות המשטרה בגין שימוש לרעה באלגוריתמים שהובילו למעצרים לא חוקיים או שגויים.

שאלות שכדאי לקחת בחשבון

• האם לדעתך יש להשתמש בשיטור חזוי?
• כיצד לדעתך אלגוריתמי שיטור חזוי ישנו את אופן יישום הצדק?