Algoritmik urush: qotil robotlar zamonaviy urushning yangi yuzimi?

• Muallif:
• Muallifning ismi

  Kvant davrini bashorat qilish
• Yanvar 10, 2023

Fuqarolik jamiyatida halokatli, avtonom qurollarga qarshi qarshilik kuchaygan bo'lsa ham, mamlakatlar sun'iy intellekt (AI) urush tizimlarini tadqiq qilishda davom etmoqda. 

Algoritmik urush konteksti

Mashinalar algoritmlardan (matematik ko'rsatmalar to'plami) inson aqlini taqlid qiladigan muammolarni hal qilish uchun foydalanadi. Algoritmik jangovar qurollar, taktikalar va hatto butun harbiy operatsiyalarni avtonom tarzda boshqara oladigan sun'iy intellektga asoslangan tizimlarni ishlab chiqishni o'z ichiga oladi. Qurol tizimlarini avtonom boshqaradigan mashinalar avtonom mashinalarning urushda o'ynashi kerak bo'lgan roli va uning axloqiy oqibatlari haqida yangi munozaralarni ochdi. 

Xalqaro gumanitar qonunga ko'ra, har qanday mashina (qurollangan yoki qurolsiz bo'lishidan qat'iy nazar) joylashtirishdan oldin, ayniqsa, agar ular odamlar yoki binolarga zarar etkazish uchun mo'ljallangan bo'lsa, qattiq tekshiruvdan o'tishi kerak. Bu oxir-oqibat o'z-o'zini o'rganish va o'z-o'zini to'g'rilash uchun ishlab chiqilayotgan AI tizimlariga taalluqlidir, bu esa ushbu mashinalarning harbiy harakatlarda inson tomonidan boshqariladigan qurol tizimlarini almashtirishiga olib kelishi mumkin.

2017-yilda kompaniya Amerika Qo‘shma Shtatlari Mudofaa vazirligi bilan harbiy sohada qo‘llaniladigan mashinalarni o‘rganish tizimlarini ishlab chiqish ustida ishlayotgani aniqlangach, Google o‘z xodimlarining qattiq noroziligiga uchradi. Faollar, ehtimol, o'z-o'zidan rivojlanadigan harbiy robotlarni yaratish fuqarolik erkinliklarini buzishi yoki maqsadni noto'g'ri tan olishga olib kelishi mumkinligidan xavotirda edilar. Harbiy sohada yuzni aniqlash texnologiyasidan foydalanish ko‘paydi (2019-yildayoq) maqsadli terrorchilar yoki manfaatdor shaxslarning ma’lumotlar bazasini yaratish. Tanqidchilar, agar inson aralashuvi buzilgan bo'lsa, sun'iy intellekt asosidagi qaror qabul qilish halokatli natijalarga olib kelishi mumkinligidan xavotirda. Biroq, Birlashgan Millatlar Tashkilotining aksariyat a'zolari o'limga olib keladigan avtonom qurol tizimlarini (LAWS) taqiqlashni ma'qullaydi, chunki bu tuzilmalar firibgarlik qilish ehtimoli bor.

Buzg'unchi ta'sir

Ko'pgina G'arb davlatlari tomonidan boshdan kechirilayotgan harbiy xizmatchilar sonining pasayishi - bu 2010-yillarda chuqurlashgan tendentsiya - avtomatlashtirilgan harbiy echimlarni qabul qilishga yordam beradigan asosiy omil. Ushbu texnologiyalarni qo'llashga turtki bo'lgan yana bir omil bu ularning jang maydonidagi operatsiyalarni soddalashtirish va avtomatlashtirish potentsialidir, bu esa urush samaradorligini oshirishga va operatsion xarajatlarni kamaytirishga olib keladi. Harbiy sanoatning ba'zi manfaatdor tomonlari, shuningdek, sun'iy intellekt tomonidan boshqariladigan harbiy tizimlar va algoritmlar o'rnatilgan tizimlarning aniqligini oshirishi uchun ular mo'ljallangan maqsadlarga erishish uchun real vaqt va aniq ma'lumotlarni taqdim etish orqali inson qurbonlarini kamaytirishi mumkinligini da'vo qilishdi. 

Agar sun'iy intellekt tomonidan boshqariladigan harbiy qurol tizimlari butun dunyo bo'ylab teatrlarda joylashtirilsa, mojaro zonalarida kamroq insonlar joylashtirilishi mumkin, bu esa urush teatrlarida harbiy yo'qotishlarni kamaytiradi. AI tomonidan boshqariladigan qurollarni ishlab chiqaruvchilar, agar xatolik yuzaga kelsa, ushbu tizimlar darhol o'chirib qo'yilishi uchun o'ldirish kalitlari kabi qarshi choralarni o'z ichiga olishi mumkin.  

AI tomonidan boshqariladigan qurollarning oqibatlari 

Butun dunyo bo'ylab harbiylar tomonidan joylashtirilgan avtonom qurollarning kengroq oqibatlari quyidagilarni o'z ichiga olishi mumkin:

• Piyoda askarlar o'rniga avtonom qurollar joylashtiriladi, bu urush xarajatlarini va askarlarning qurbonlarini kamaytiradi.
• Muxtor yoki mexanizatsiyalashgan aktivlarga ko'proq kirish imkoniga ega bo'lgan tanlangan davlatlar tomonidan harbiy kuchlarni ko'proq qo'llash, chunki qo'shinlar qurbonlarini kamaytirish yoki yo'q qilish mamlakatning ichki jamoatchiligining xorijiy mamlakatlarda urush olib borishga qarshiligini minimallashtirishi mumkin.
• Harbiy AI ustunligi uchun davlatlar o'rtasida mudofaa byudjetlarining oshishi kelajakdagi urushlar qaror qabul qilish tezligi va kelajakdagi sun'iy intellekt tomonidan boshqariladigan qurollar va harbiylarning murakkabligi bilan hal qilinishi mumkin. 
• Odamlar va mashinalar o'rtasidagi hamkorlikni kuchaytirish, bu erda ma'lumotlar inson askarlariga bir zumda taqdim etiladi, bu ularga real vaqtda jangovar taktika va strategiyalarni o'zgartirishga imkon beradi.
• Mamlakatlar sun'iy intellektning mudofaa qobiliyatini oshirish uchun xususiy texnologiya sektorlari resurslaridan tobora ko'proq foydalanmoqda. 
• Birlashgan Millatlar Tashkilotida avtonom qurollardan foydalanishni taqiqlovchi yoki cheklovchi bir yoki bir nechta global shartnomalar ilgari surilmoqda. Bunday siyosatlar, ehtimol, dunyodagi eng yuqori darajadagi harbiylar tomonidan e'tiborsiz qolishi mumkin.

Izoh uchun savollar

• Sizningcha, algoritmik urush harbiy xizmatga chaqirilgan odamlarga foyda keltiradimi?
• Urush uchun mo'ljallangan sun'iy intellekt tizimlariga ishonish mumkinmi yoki ularni to'g'ridan-to'g'ri cheklash yoki taqiqlash kerakmi?