慕尼黑安全会议

本月在德国举行的慕尼黑高级别安全会议上，对全自动武器前景的担忧尤为突出。 600 月 15 日至 18 日，XNUMX 多名政界人士、商界领袖和官员出席了在市中心的 Bayerischer Hof 酒店举行的年会。

A 人工智能公共活动 会议组织的现代冲突从不同的角度出现了针对武器的共同观点，这些武器一旦启动，就可以在没有进一步人为干预的情况下识别、选择和攻击目标。 活动以一个“机器人”的发言开始，小组成员包括一位总统、一位将军、一位前北约领导人和一位来自非政府组织联盟“制止杀手机器人运动”的代表。

媒体广泛报道了德国网络司令部负责人路德维希·莱因霍斯中将在此次活动中的讲话，他说：“我们的立场非常明确。 我们无意采购“完全自主的武器”。

有人描述过 这一评论是德国支持禁止此类完全自主武器的新官方立场。 其他人声称 澳大利亚、加拿大和英国同样全心全意地支持禁令。

但是，阻止杀手机器人运动不会将这些状态添加到其运行列表中 22个国家支持禁止完全自主武器的呼吁. 这部分是因为关于不获取此类武器的意图的声明与承诺并积极致力于具有法律约束力的先发制人禁令不同。 部分原因是不清楚德国或英国或其他一些国家所说的完全自主武器系统是什么意思，特别是需要何种程度的人工控制。

欢迎任何放弃这些武器系统的声明，并表明各国武装部队内部的话语和辩论是如何进行的 越来越专注 不仅是关于完全自主武器的合法性的问题，还有更大的问题。 然而，仅靠声明不足以应对这一影响深远的武器系统自主性举措所带来的所有挑战。

需要以新的国际条约和国家法律的形式制定具有约束力的立法，以保持人类对未来武器系统和个人攻击的有意义的控制。 这样做将要求各州划清界限，先发制人地禁止开发、生产和使用完全自主的武器。

阻止杀手机器人运动协调员 Mary Wareham 在慕尼黑人工智能小组发表讲话，强调了允许机器在战场上或在警务、边境控制和其他情况下夺走人类生命所带来的伦理、法律、操作、道德、扩散、技术和其他挑战。

另一位共同小组成员，前北约秘书长安德斯·福格·拉斯穆森， 滔滔不绝 赞成禁止生产和使用政府称之为“致命自主武器系统”的东西。 他预测，如果没有法律禁止，这些武器可能会造成不稳定，并警告说：“很快，你可能会看到成群的机器人攻击一个国家......机器人可以轻松部署，它们不会感到疲倦，也不会感到无聊。”

最后一位共同小组成员爱沙尼亚总统 Kersti Kaljula 没有直接解决完全自主武器提出的问题，但 告诉随后的慕尼黑小组 联合国大会应就“禁止将人工智能用于军事目的”进行投票。

应考虑此类建议，因为它们有助于激发更紧迫和具体的行动。 需要更加关注日内瓦常规武器公约（CCW）正在进行的外交进程，大约 90 个国家正在考虑如何处理致命的自主武器系统。 该运动批评《CCW》谈判目标太低且进展缓慢，但只要有政治意愿，快速进展是可能的。

在慕尼黑的另一场讨论中，来自 Google Alphabet 的埃里克·施密特 (Eric Sc​​hmidt) 被要求就禁止完全自主武器的呼吁发表意见。施密特没有表示支持具有法律约束力的措施，但 发现 “这些技术存在严重错误，不应用于人生决策。” 他说有“太多错误”，他们不应该“负责指挥和控制”。

作为备受尊敬的斯德哥尔摩国际和平研究所（SIPRI）的主任 在一个思考片中 慕尼黑指出，“关于武器系统自主性的谈判可以加速，而技术的发展可以放缓。” 情况可能如此，但时间已经不多了。

“机器人索菲亚” 在慕尼黑开启 AI 活动 并介绍了嘉宾。 被机器人社区广泛视为“假表演机器人”，其创造者大卫汉森此前曾为迪斯尼电子动画公司工作。 去年，索菲亚 面对联合国首脑会议 在“AI for Good”上引发争议 沙特阿拉伯授予公民身份.

索菲亚向慕尼黑安全会议主席沃尔夫冈伊辛格和主持人大卫桑格提供了预先确定问题的答案。 一些回应是边缘种族主义（问为什么主要是年轻人的观众不穿“皮裤”）和性别歧视（在对将军说“漂亮的制服”后被主持人斥为“调情”）。

大多数都是空洞的——“除非你必须保护自己，否则伤害别人是不行的”和“机器人可能会保护人类免受彼此的伤害。” 或者误导。 在邀请阻止杀手机器人运动协调员上台时，索菲亚说：“请让我向你保证，我不是杀手机器人。” 我们从未声称它是。

在慕尼黑安全会议期间，多家媒体报道了杀手机器人的问题，包括 POLITICO欧洲, 路透社, 未来主义及 欧洲新闻, 和德国网点 网络政策, “南德意志报”及 海泽.

观看 公开活动的视频.

图片来源： 慕尼黑安全会议 / Kuhlmann二月15 2018