جنگ الگوریتمی: آیا روبات های قاتل چهره جدید جنگ مدرن هستند؟

• نویسنده:
• نام نویسنده

  آینده نگاری کوانتوم ران
• ژانویه 10، 2023

کشورها به تحقیق در مورد سیستم‌های جنگی هوشمند (AI) ادامه می‌دهند، حتی اگر مقاومت در جامعه مدنی در برابر سلاح‌های مرگبار و خودمختار افزایش یافته باشد. 

زمینه جنگ الگوریتمی

ماشین‌ها از الگوریتم‌ها (مجموعه‌ای از دستورالعمل‌های ریاضی) برای حل مسائلی استفاده می‌کنند که هوش انسان را تقلید می‌کنند. جنگ الگوریتمی شامل توسعه سیستم های مجهز به هوش مصنوعی است که می توانند به طور مستقل سلاح ها، تاکتیک ها و حتی کل عملیات نظامی را مدیریت کنند. ماشین‌هایی که به‌طور مستقل سیستم‌های تسلیحاتی را کنترل می‌کنند، بحث‌های جدیدی را در مورد نقش ماشین‌های خودمختار در جنگ و پیامدهای اخلاقی آن باز کرده‌اند. 

طبق قوانین بین‌المللی بشردوستانه، هر ماشینی (چه دارای سلاح یا غیرسلاح) باید قبل از استقرار تحت بازبینی دقیق قرار گیرد، به‌ویژه اگر قرار باشد به افراد یا ساختمان‌ها آسیب برساند. این به سیستم‌های هوش مصنوعی در حال توسعه گسترش می‌یابد تا در نهایت تبدیل به خودآموز و اصلاح شونده شوند، که ممکن است منجر به جایگزینی این ماشین‌ها در سیستم‌های تسلیحاتی تحت کنترل انسان در عملیات‌های نظامی شود.

در سال 2017، زمانی که گوگل متوجه شد که این شرکت با وزارت دفاع ایالات متحده برای توسعه سیستم‌های یادگیری ماشینی برای استفاده در ارتش همکاری می‌کند، با واکنش شدید کارمندان خود مواجه شد. فعالان نگران بودند که ایجاد ربات‌های نظامی احتمالاً خود تکامل‌یافته می‌تواند آزادی‌های مدنی را نقض کند یا منجر به شناسایی نادرست هدف شود. استفاده از فناوری تشخیص چهره در ارتش افزایش یافته است (در اوایل سال 2019) برای ایجاد پایگاه داده ای از تروریست های هدف یا افراد مورد علاقه. منتقدان ابراز نگرانی کرده‌اند که تصمیم‌گیری مبتنی بر هوش مصنوعی می‌تواند منجر به نتایج فاجعه‌بار در صورت به خطر افتادن مداخله انسانی شود. با این حال، اکثر اعضای سازمان ملل متحد از ممنوعیت سیستم‌های تسلیحات خودمختار مرگبار (LAWS) حمایت می‌کنند، زیرا این امکان وجود دارد که این نهادها سرکش شوند.

تاثیر مخرب

کاهش ارقام استخدام نظامی که توسط بسیاری از کشورهای غربی تجربه می شود - روندی که در دهه 2010 عمیق تر شد - یک عامل کلیدی در پذیرش راه حل های نظامی خودکار است. عامل دیگری که منجر به پذیرش این فناوری‌ها می‌شود، پتانسیل آنها برای ساده‌سازی و خودکارسازی عملیات میدان نبرد است که منجر به افزایش کارایی جنگ و کاهش هزینه‌های عملیاتی می‌شود. برخی از سهامداران صنعت نظامی همچنین ادعا کرده‌اند که سیستم‌ها و الگوریتم‌های نظامی کنترل‌شده با هوش مصنوعی می‌توانند تلفات انسانی را با ارائه اطلاعات واقعی و دقیق کاهش دهند که می‌تواند دقت سیستم‌های مستقر را افزایش دهد تا آنها به اهداف مورد نظر خود ضربه بزنند. 

اگر سیستم‌های تسلیحاتی نظامی با کنترل هوش مصنوعی بیشتری در سینماهای سراسر جهان مستقر شوند، ممکن است پرسنل انسانی کمتری در مناطق درگیری مستقر شوند و تلفات نظامی در سالن‌های جنگ کاهش یابد. سازندگان سلاح‌های مبتنی بر هوش مصنوعی ممکن است اقدامات متقابلی مانند سوئیچ‌های کشتن را شامل شوند تا در صورت بروز خطا، این سیستم‌ها فوراً غیرفعال شوند.  

پیامدهای سلاح های کنترل شده با هوش مصنوعی 

پیامدهای گسترده تری از سلاح های خودمختار که توسط ارتش ها در سراسر جهان استقرار می شود ممکن است شامل موارد زیر باشد:

• استقرار تسلیحات خودمختار به جای سربازان پیاده، هزینه های جنگ و تلفات سربازان را کاهش می دهد.
• استفاده بیشتر از نیروی نظامی توسط کشورهای منتخب با دسترسی بیشتر به دارایی‌های خودمختار یا مکانیزه، زیرا کاهش یا حذف تلفات سربازان می‌تواند مقاومت عمومی داخلی یک کشور را برای جنگ در سرزمین‌های خارجی به حداقل برساند.
• افزایش بودجه دفاعی بین کشورها برای برتری هوش مصنوعی نظامی به عنوان جنگ‌های آینده ممکن است با سرعت تصمیم‌گیری و پیچیدگی تسلیحات و ارتش‌های تحت کنترل هوش مصنوعی تعیین شود. 
• افزایش مشارکت بین انسان‌ها و ماشین‌ها، که در آن داده‌ها فوراً در اختیار سربازان انسانی قرار می‌گیرد و به آنها اجازه می‌دهد تاکتیک‌ها و استراتژی‌های جنگ را در زمان واقعی تنظیم کنند.
• کشورها به طور فزاینده ای از منابع بخش فناوری خصوصی خود برای تقویت قابلیت های دفاعی هوش مصنوعی خود استفاده می کنند. 
• یک یا چند معاهده جهانی در حال ترویج در سازمان ملل متحد برای ممنوعیت یا محدود کردن استفاده از سلاح های خودمختار. چنین سیاست هایی احتمالاً توسط ارتش های برتر جهان نادیده گرفته خواهد شد.

سوالاتی برای اظهار نظر

• آیا فکر می‌کنید جنگ‌های الگوریتمی برای انسان‌هایی که در ارتش ثبت نام کرده‌اند مفید خواهد بود؟
• آیا شما معتقدید که می توان به سیستم های هوش مصنوعی طراحی شده برای جنگ اعتماد کرد یا باید آنها را محدود یا ممنوع کرد؟