算法作戰：殺手機器人是現代戰爭的新面孔嗎？

• 作者：
• 作者姓名

  量子運行遠見
• 2023 年 1 月 10 日

儘管民間社會對致命自主武器的抵制有所增加，但各國仍在繼續研究人工智能（AI）戰爭系統。 

算法作戰環境

機器使用算法（一組數學指令）來解決模仿人類智能的問題。 算法作戰涉及人工智能驅動系統的開發，該系統可以自主管理武器、戰術甚至整個軍事行動。 自主控制武器系統的機器引發了關於自主機器在戰爭中應發揮的作用及其倫理影響的新爭論。 

根據國際人道主義法，任何機器（無論是武器化還是非武器化）在部署前都應經過嚴格審查，特別是如果它們旨在對人員或建築物造成傷害。 這延伸到正在開發的人工智能係統，最終實現自我學習和自我糾正，這可能導致這些機器在軍事行動中取代人類控制的武器系統。

2017年，當谷歌被發現與美國國防部合作開髮用於軍隊的機器學習系統時，遭到了員工的強烈反對。 活動人士擔心，創造可能自我進化的軍用機器人可能會侵犯公民自由或導致錯誤的目標識別。 面部識別技術在軍隊中的使用有所增加（早在 2019 年），以創建目標恐怖分子或感興趣人員的數據庫。 批評者擔心，如果人為乾預受到損害，人工智能驅動的決策可能會導致災難性的結果。 然而，大多數聯合國成員國贊成禁止致命自主武器系統（LAWS），因為這些實體可能會變得更加猖獗。

破壞性影響

許多西方國家的徵兵人數下降（這一趨勢在 2010 年代進一步加深）是促使採用自動化軍事解決方案的一個關鍵因素。 推動這些技術採用的另一個因素是它們在簡化和自動化戰場作戰方面的潛力，從而提高作戰效率並降低運營成本。 一些軍事工業利益相關者還聲稱，人工智能控制的軍事系統和算法可以通過提供實時準確的信息來降低人員傷亡，從而提高部署系統的準確性，從而打擊預期目標。 

如果在全球戰區部署更多人工智能控制的軍事武器系統，衝突地區部署的人員可能會減少，從而降低戰區的軍事傷亡。 人工智能驅動武器的製造商可能會採取諸如終止開關之類的對策，以便在發生錯誤時可以立即禁用這些系統。  

人工智能控制武器的影響 

世界各地軍隊部署自主武器的更廣泛影響可能包括：

• 部署自主武器代替步兵，減少戰爭成本和士兵傷亡。
• 那些更容易獲得自主或機械化資產的國家更多地使用軍事力量，因為減少或消除軍隊傷亡可以最大限度地減少一個國家國內公眾對在外國發動戰爭的抵制。
• 未來戰爭中，國家之間為了軍事人工智能霸權而增加的國防預算可能取決於未來人工智能控制的武器和軍隊的決策速度和復雜程度。 
• 加強人與機器之間的合作，數據將立即提供給人類士兵，使他們能夠實時調整戰鬥戰術和策略。
• 各國越來越多地利用其私營科技部門的資源來增強其人工智能防禦能力。 
• 聯合國正在推動一項或多項全球條約，禁止或限制使用自主武器。 此類政策可能會被世界頂級軍隊忽視。

要評論的問題

• 您認為算法作戰會讓參軍的人類受益嗎？
• 您認為專為戰爭設計的人工智能係統值得信賴嗎？還是應該徹底限製或禁止它們？