保护平民：阻止杀手机器人

联合国秘书长安东尼奥·古特雷斯敦促各国在其 2020 年“迅速”采取行动解决对致命自主武器系统的担忧 关于武装冲突中保护平民的报告。 他 已标记 27 月 XNUMX 日在联合国安理会关于该报告的虚拟辩论中禁止此类武器的必要性。

制止杀手机器人运动赞扬联合国领导人的呼吁，并敦促各国听取他的要求，就“武器自主性应适用的限制和义务”达成一致。 各国应立即就一项新的国际条约展开谈判，以禁止完全自主的武器并保留人类对武力使用的有意义的控制。

这是自 2013 年以来第一份联合国保护平民报告强调了对杀手机器人的担忧。 联合国秘书长潘基文发表 2013报告成为第一位对武器系统的前景提出严重质疑的联合国领导人，这些武器系统一旦启动，就可以在没有进一步人为干预的情况下选择和打击目标。 他呼吁就这些问题紧急开始多边讨论。

当年年底，各国响应了这一呼吁，同意在日内瓦的《常规武器公约》（CCW）上开始讨论有关致命自主武器系统的问题。 自那以后，CCW 会谈在确定有关武器系统自主性的关键问题方面取得了一些进展。 几个国家承诺不获取或发展致命的自主武器系统，30 个国家呼吁禁止此类武器系统。

然而，由于少数军事大国，尤其是俄罗斯和美国的反对，《特定常规武器公约》的讨论几乎没有取得持久的多边成果，它们坚决拒绝谈判新国际条约或议定书的提议。

2013 年的平民保护报告承认了对致命自主武器系统根据国际人道主义法和人权法运作的能力的“重要关切”。 七年过去了，古特雷斯发现使用此类武器的袭击是否符合国际人道主义法仍然存在重大疑问。 像他的前任一样，古特雷斯也引用了“让技术决定夺走人类生命的基本道德和伦理问题”。

在 2020报告, 古特雷斯发现，“各方似乎都同意，至少有必要保留对使用武力的人为控制或判断。” 他指出，“越来越多的成员国呼吁禁止 LAWS。”

自 2018 年 2020 月以来，联合国秘书长一再表示希望达成一项禁止杀手机器人的新国际条约。 XNUMX 年 XNUMX 月，古特雷斯 警告 这种武器系统“正在将我们带入不可接受的道德和政治领域”。 在 XNUMX 月的人权理事会上，他 呼吁 保护人权免受新兴技术侵害的具体措施，重申他呼吁制定一项禁令条约，以“确保自主机器永远不会被赋予超出人类判断或控制的致命能力”。

联合国安理会五个常任理事国都在大力投资开发具有自主功能的武器系统。 与法国、俄罗斯联邦、英国和美国不同，中国表示，在涉及完全自主武器时，必须通过制定新的国际条约来加强现有的国际人道主义法。

十个安理会非常任理事国中的大多数都对致命的自主武器系统表示严重关切，并参加了 CCW 谈判，特别是比利时、爱沙尼亚、德国、南非和突尼斯。 XNUMX 月，德国外长海科·马斯 (Heiko Maas) 被称为 这种武器系统是“一条我们永远不应该跨越的红线”，因为“让机器决定人类的生死，违背道德标准，损害人类尊严。”

去年 XNUMX 月，印度尼西亚 发表声明 代表 120 多个成员的不结盟运动重申迫切需要一项具有法律约束力的文书，规定禁止和管制致命性自主武器系统。  

其他非常任安理会成员尚未详细阐述他们对杀手机器人的看法：多米尼加共和国、尼日尔、圣文森特和格林纳丁斯以及越南。

爱沙尼亚以安全理事会主席的身份主持了 27 月 XNUMX 日的虚拟安全理事会会议。 在辩论中，德国和其他国家 已标记 新兴技术对保护平民的潜在负面影响。 法国 凸 对“具有自主性的致命武器系统”问题的担忧。

2020 年和 2013 年平民保护报告中的杀手机器人内容摘录如下。

2020 保护平民 报告

37. 迅速采取行动解决对致命自主武器系统（LAWS）领域的发展所造成的影响的关切也很重要。 自主武器通常被认为是能够在没有人为干预的情况下选择和攻击目标（无论是人还是物体）的系统。 虽然 LAWS 不受国际人道法条约的具体规定，但无可争议的是，任何自主武器系统都必须能够使用，并且必须按照国际人道法使用。 然而，对于使用 LAWS 进行攻击如何符合国际人道法，存在重大疑问。 在允许技术决定夺走人类生命方面也存在基本的道德和伦理问题。

38. 越来越多的会员国呼吁禁止 LAWS。 其他人则认为，现有国际人道法的适用足以规范其使用。 各方似乎都同意，至少有必要保留对使用武力的人为控制或判断。 会员国必须在联合国和其他国际组织、民间社会和私营部门的支持和积极参与下，迅速就应适用于以下方面的特点以及商定的限制和义务达成共识武器的自主性。

2013 保护平民 报告

28. 无人机技术的扩散和越来越多地使用此类武器系统也将进一步加剧国家与非国家当事方之间许多冲突中存在的不对称性。 随着技术让一方越来越远离战场，对抗它的机会也减少了，我们可能会看到技术落后的一方越来越多地采取旨在伤害平民的战略，将其作为最容易接近的目标。 此外，无人机技术增加了进行攻击的机会，否则通过其他形式的空中力量或地面部队的部署可能被认为是不切实际或不可取的。 随着攻击能力的增强，对平民构成的威胁也随之增强。

29. 未来，这些问题和其他问题可能也适用于自主武器系统或所谓的“杀手机器人”的使用，一旦激活，它们就可以选择和攻击目标，并在动态和不断变化的环境中运行无需进一步的人工干预。 人们对此类系统根据国际人道主义法和人权法运作的能力提出了重要关切。 它们的潜在用途引发了其他非常重要的问题：将有关使用致命武力的决定委托给此类系统在道德上是否可接受？ 如果它们的使用导致战争罪或严重侵犯人权，谁将承担法律责任？ 如果无法按照国际法要求确定责任，部署此类系统是否合法或合乎道德？ 尽管本文所述的自主武器系统尚未部署，其作为军事技术的发展程度仍不清楚，但必须立即开始讨论此类问题，而不是在技术开发和扩散后开始。 它还必须具有包容性，并允许联合国行为者、红十字国际委员会和民间社会充分参与。