算法作战：杀手机器人是现代战争的新面孔吗？

• 作者：
• 作者姓名

  量子运行远见
• 2023 年 1 月 10 日

尽管民间社会对致命自主武器的抵制有所增加，但各国仍在继续研究人工智能（AI）战争系统。 

算法作战环境

机器使用算法（一组数学指令）来解决模仿人类智能的问题。 算法作战涉及人工智能驱动系统的开发，该系统可以自主管理武器、战术甚至整个军事行动。 自主控制武器系统的机器引发了关于自主机器在战争中应发挥的作用及其伦理影响的新争论。 

根据国际人道主义法，任何机器（无论是武器化还是非武器化）在部署前都应经过严格审查，特别是如果它们旨在对人员或建筑物造成伤害。 这延伸到正在开发的人工智能系统，最终实现自我学习和自我纠正，这可能导致这些机器在军事行动中取代人类控制的武器系统。

2017年，当谷歌被发现与美国国防部合作开发用于军队的机器学习系统时，遭到了员工的强烈反对。 活动人士担心，创造可能自我进化的军用机器人可能会侵犯公民自由或导致错误的目标识别。 面部识别技术在军队中的使用有所增加（早在 2019 年），以创建目标恐怖分子或感兴趣人员的数据库。 批评者担心，如果人为干预受到损害，人工智能驱动的决策可能会导致灾难性的结果。 然而，大多数联合国成员国赞成禁止致命自主武器系统（LAWS），因为这些实体可能会变得更加猖獗。

破坏性影响

许多西方国家的征兵人数下降（这一趋势在 2010 年代进一步加深）是促使采用自动化军事解决方案的一个关键因素。 推动这些技术采用的另一个因素是它们在简化和自动化战场作战方面的潜力，从而提高作战效率并降低运营成本。 一些军事工业利益相关者还声称，人工智能控制的军事系统和算法可以通过提供实时准确的信息来降低人员伤亡，从而提高部署系统的准确性，从而打击预期目标。 

如果在全球战区部署更多人工智能控制的军事武器系统，冲突地区部署的人员可能会减少，从而降低战区的军事伤亡。 人工智能驱动武器的制造商可能会采取诸如终止开关之类的对策，以便在发生错误时可以立即禁用这些系统。  

人工智能控制武器的影响 

世界各地军队部署自主武器的更广泛影响可能包括：

• 部署自主武器代替步兵，减少战争成本和士兵伤亡。
• 那些更容易获得自主或机械化资产的国家更多地使用军事力量，因为减少或消除军队伤亡可以最大限度地减少一个国家国内公众对在外国发动战争的抵制。
• 未来战争中，国家之间为了军事人工智能霸权而增加的国防预算可能取决于未来人工智能控制的武器和军队的决策速度和复杂程度。 
• 加强人与机器之间的合作，数据将立即提供给人类士兵，使他们能够实时调整战斗战术和战略。
• 各国越来越多地利用其私营科技部门的资源来增强其人工智能防御能力。 
• 联合国正在推动一项或多项全球条约，禁止或限制使用自主武器。 此类政策可能会被世界顶级军队忽视。

要评论的问题

• 您认为算法作战会让参军的人类受益吗？
• 您认为专为战争设计的人工智能系统值得信赖吗？还是应该彻底限制或禁止它们？