菜单英雄形象
人手会见机器人手,握手时带有紫色覆盖物

自主武器和操作风险

本报告探讨了未来自主武器选择自己目标的风险以及发生灾难性事故的可能性。

包括未来武器在内的各种军事系统的自动化正在增加。 作为回应,越来越多的声音呼吁紧急讨论人类和机器决策在使用致命武力方面的适当作用。 新美国安全中心的伦理自治项目研究与自主武器相关的法律、道德、伦理和政策问题——自主选择和攻击目标的武器。

本文旨在帮助国防专业人士清晰、客观地思考与自主武器相关的可能风险。 自主武器一般不存在,其军事成本和收益可以推测但尚不清楚。 然而,显而易见的是,它们提出了新的风险问题。 自治的本质是将以前由人完成的任务委托给机器。 这就提出了一个重要问题,即如何保持对机器行为和与失去控制相关的风险(概率和后果)的有效人工控制。

可以找到原始出版物 相关信息.

对有意义的人类控制所需的关键要素的考虑应该为在自主武器系统的背景下对开发技术进行任何评估提供一个起点。

新美国安全中心 (CNAS)

图片替代文字
SKR 点图标

停止杀手机器人

来参加我们的

跟上停止杀手机器人运动的最新发展。

来参加我们的