Алгоритмична война: роботите убийци ли са новото лице на съвременната война?

• Автор:
• име Автор

  Quantumrun Foresight
• Януари 10, 2023

Държавите продължават да изследват изкуствено интелигентни (AI) бойни системи, въпреки че съпротивата в гражданското общество се е увеличила срещу смъртоносните, автономни оръжия. 

Алгоритмичен контекст на бойни действия

Машините използват алгоритми (набор от математически инструкции) за решаване на проблеми, които имитират човешкия интелект. Алгоритмичните военни действия включват разработването на системи, задвижвани от AI, които могат автономно да управляват оръжия, тактики и дори цели военни операции. Машините, управляващи автономно оръжейни системи, откриха нови дебати относно ролята, която автономните машини трябва да играят във войната и нейните етични последици. 

Съгласно международното хуманитарно право всяка машина (независимо дали е с оръжие или не) трябва да бъде подложена на строги прегледи, преди да бъде разгърната, особено ако е предназначена да причини вреда на хора или сгради. Това се отнася до системите за изкуствен интелект, които се разработват, за да станат в крайна сметка самообучаващи се и самокоригиращи се, което може да доведе до това тези машини да заменят контролираните от човека оръжейни системи във военни операции.

През 2017 г. Google получи остра реакция от служителите си, когато беше открито, че компанията работи с Министерството на отбраната на Съединените щати за разработване на системи за машинно обучение, които да се използват в армията. Активистите бяха загрижени, че създаването на вероятно саморазвиващи се военни роботи може да наруши гражданските свободи или да доведе до фалшиво разпознаване на целта. Използването на технология за лицево разпознаване в армията се е увеличило (още през 2019 г.) за създаване на база данни с набелязани терористи или лица, представляващи интерес. Критиците изразиха опасения, че вземането на решения, управлявано от AI, може да доведе до катастрофални резултати, ако човешката намеса бъде компрометирана. Повечето членове на ООН обаче подкрепят забраната на смъртоносните автономни оръжейни системи (LAWS) поради възможността тези субекти да станат измамници.

Разрушително въздействие

Намаляващите цифри за набиране на военни, наблюдавани от много западни нации – тенденция, която се задълбочи през 2010 г. – са ключов фактор, допринасящ за приемането на автоматизирани военни решения. Друг фактор, движещ възприемането на тези технологии, е техният потенциал да рационализират и автоматизират операциите на бойното поле, което води до повишена ефикасност на войната и по-ниски оперативни разходи. Някои заинтересовани страни от военната индустрия също твърдят, че управляваните от AI военни системи и алгоритми могат да намалят човешките жертви, като предоставят точна информация в реално време, която може да повиши точността на разгърнатите системи, така че те да поразяват набелязаните цели. 

Ако повече военни оръжейни системи, контролирани от изкуствен интелект, бъдат разположени на театри по целия свят, по-малко човешки персонал може да бъде разположен в зоните на конфликт, намалявайки военните жертви в театрите на войната. Създателите на управлявани от изкуствен интелект оръжия могат да включват контрамерки, като превключватели за спиране, така че тези системи да могат да бъдат деактивирани незабавно, ако възникне грешка.  

Последици от оръжията, контролирани от AI 

По-широките последици от разполагането на автономни оръжия от армии по света могат да включват:

• Разполага се автономно оръжие на мястото на пехотинци, което намалява разходите за водене на война и жертвите на войниците.
• По-голямото прилагане на военна сила от избрани нации с по-голям достъп до автономни или механизирани средства, тъй като намаляването или елиминирането на жертвите на войските може да сведе до минимум вътрешната обществена съпротива на страната срещу воденето на война в чужди земи.
• Ескалацията на бюджетите за отбрана между нациите за военно превъзходство на AI, тъй като бъдещи войни може да се решават от скоростта на вземане на решения и сложността на бъдещите контролирани от AI оръжия и армии. 
• Увеличаване на партньорството между хора и машини, при което данните ще бъдат незабавно предоставени на човешките войници, позволявайки им да коригират бойни тактики и стратегии в реално време.
• Държавите все повече се възползват от ресурсите на своите частни технологични сектори, за да укрепят защитните си способности с ИИ. 
• Един или повече глобални договори, насърчавани в Обединените нации, забраняващи или ограничаващи използването на автономни оръжия. Подобни политики вероятно ще бъдат игнорирани от най-добрите военни в света.

Въпроси за коментар

• Смятате ли, че алгоритмичната война ще бъде от полза за хората, включени в армията?
• Вярвате ли, че на системите с ИИ, предназначени за война, може да се вярва или трябва да бъдат ограничени или забранени направо?