לחימה אלגוריתמית: האם רובוטים רוצחים הם הפנים החדשות של הלוחמה המודרנית?

• מְחַבֵּר:
• שם היוצר

  Quantumrun Foresight
• ינואר 10, 2023

מדינות ממשיכות לחקור מערכות לוחמה אינטליגנטיות באופן מלאכותי (AI) למרות שההתנגדות גברה בחברה האזרחית נגד נשק קטלני ואוטונומי. 

הקשר אלגוריתמי לחימה

מכונות משתמשות באלגוריתמים (קבוצה של הוראות מתמטיות) כדי לפתור בעיות המחקות את האינטליגנציה האנושית. לחימה אלגוריתמית כרוכה בפיתוח של מערכות המונעות בינה מלאכותית שיכולות לנהל באופן אוטונומי כלי נשק, טקטיקות ואפילו פעולות צבאיות שלמות. מכונות השולטות באופן אוטונומי במערכות נשק פתחו ויכוחים חדשים לגבי התפקיד שמכונות אוטונומיות צריכות למלא בלוחמה וההשלכות האתיות שלה. 

על פי המשפט ההומניטארי הבינלאומי, כל מכונה (בין אם בנשק ובין אם לא) צריכה לעבור בדיקות קפדניות לפני פריסה, במיוחד אם היא נועדה לגרום נזק לבני אדם או לבניינים. זה מגיע למערכות בינה מלאכותית המפותחות כדי להפוך בסופו של דבר ללמידה עצמית ולתיקון עצמי, מה שעשוי להוביל לכך שהמכונות הללו יחליפו מערכות נשק הנשלטות על ידי אדם בפעולות צבאיות.

ב-2017, גוגל קיבלה תגובה חריפה מעובדיה כשהתגלה שהחברה עובדת עם משרד ההגנה של ארצות הברית לפיתוח מערכות למידת מכונה לשימוש בצבא. פעילים היו מודאגים שיצירת רובוטים צבאיים שאולי מתפתחים מעצמם עלולה להפר את חירויות האזרח או להוביל לזיהוי מטרות שווא. השימוש בטכנולוגיית זיהוי פנים בצבא גדל (כבר ב-2019) כדי ליצור מסד נתונים של טרוריסטים ממוקדים או אנשים בעלי עניין. מבקרים הביעו דאגה שקבלת החלטות מונעת בינה מלאכותית עלולה להוביל לתוצאות הרות אסון אם התערבות אנושית תיפגע. עם זאת, רוב חברי האומות המאוחדות בעד איסור על מערכות נשק אוטונומיות קטלניות (LAWS) בגלל האפשרות של גופים אלה להתקלקל.

השפעה משבשת

ירידה בנתוני הגיוס לצבא שחווים מדינות מערביות רבות - מגמה שהעמיקה במהלך שנות ה-2010 - היא גורם מפתח התורם לאימוץ פתרונות צבאיים אוטומטיים. גורם נוסף המניע את אימוץ הטכנולוגיות הללו הוא הפוטנציאל שלהן לייעל ולהפוך את פעולות שדה הקרב לאוטומטיות, מה שמוביל ליעילות מוגברת בלחימה ולעלויות תפעול נמוכות יותר. חלק מבעלי העניין בתעשייה הצבאית טענו גם כי מערכות ואלגוריתמים צבאיים בשליטת בינה מלאכותית יכולים להפחית את הנפגעים האנושיים על ידי אספקת מידע בזמן אמת ומדויק שיכול להגביר את הדיוק של המערכות הפרוסות כך שהן פוגעות במטרות המיועדות להן. 

אם יותר מערכות נשק צבאיות בשליטת בינה מלאכותית ייפרסו בבתי קולנוע ברחבי העולם, פחות אנשי אנוש עשויים להיות פרוסים באזורי עימות, מה שיוריד את האבדות הצבאיות באולמות המלחמה. יצרניות הנשק המונעות בינה מלאכותית עשויות לכלול אמצעי נגד כגון מתגי הרג, כך שניתן יהיה להשבית את המערכות הללו באופן מיידי אם מתרחשת שגיאה.  

השלכות של כלי נשק נשלטי בינה מלאכותית 

השלכות רחבות יותר של פריסת נשק אוטונומי על ידי צבאות ברחבי העולם עשויות לכלול:

• פריסת נשק אוטונומי במקום חיילים רגליים, הפחתת עלויות הלחימה והאבידות בחיילים.
• יישום רב יותר של כוח צבאי על ידי מדינות נבחרות בעלות גישה רבה יותר לנכסים אוטונומיים או ממוכנים, שכן צמצום או חיסול אבדות החיילים יכול למזער את ההתנגדות הציבורית המקומית של מדינה למלחמה בארצות זרות.
• הסלמה של תקציבי ההגנה בין מדינות לעליונות בינה מלאכותית צבאית כמו מלחמות עתידיות עשויה להיות מוכרעת על ידי מהירות קבלת ההחלטות והתחכום של כלי נשק וצבאות עתידיים בשליטת בינה מלאכותית. 
• הגברת השותפות בין בני אדם למכונות, שבה הנתונים יסופקו באופן מיידי לחיילים אנושיים, מה שיאפשר להם להתאים טקטיקות ואסטרטגיות קרב בזמן אמת.
• מדינות מנצלות יותר ויותר את המשאבים של מגזרי הטכנולוגיה הפרטיים שלהן כדי לחזק את יכולות ההגנה על AI שלהן. 
• אמנה עולמית אחת או יותר שמקודמת באו"ם האוסרת או מגבילה את השימוש בנשק אוטונומי. מדיניות כזו תתעלם ככל הנראה על ידי הצבאות המובילים בעולם.

שאלות להגיב עליהן

• האם לדעתך לוחמה אלגוריתמית תועיל לבני אדם שהתגייסו לצבא?
• האם אתה מאמין שניתן לסמוך על מערכות בינה מלאכותית המיועדות ללוחמה, או שצריך לצמצם אותן או לאסור אותן על הסף?