新闻稿：杀手机器人的过程缺乏重点和目标确定如何保持有意义的人类控制

13. Nov.2017
日内瓦

新闻稿：
杀手机器人的过程缺乏重点和目标确定如何保持对武器系统的有意义的人类控制

制止杀手机器人运动敦促各州承诺通过谈判禁止致命的自主武器系统，迅速确定如何以及在何处划定武器系统未来自主性的界限。 70 多个国家正在参加今天在日内瓦联合国 (UN) 举行的关于这一主题的常规武器公约 (CCW) 会议

1997 年诺贝尔和平奖获得者、制止杀手机器人运动的联合创始人乔迪·威廉姆斯 (Jody Williams) 说：“为了避免机器在没有进一步人工干预的情况下选择和攻击目标的未来，各国必须划清界限，反对武器系统中不受限制的自主权。” “有了足够的政治意愿，政府可以谈判达成一项国际条约，并在两年内禁止杀手机器人——完全自主的武器。”

制止杀手机器人运动是一个由非政府组织于 2012 年 XNUMX 月共同创立的全球联盟。它正在努力先发制人地禁止完全自主的武器，也称为致命的自主武器系统。

《常规武器公约》是一项禁止或限制某些武器的框架条约，其 1995 年关于致盲激光的议定书是武器在获得或使用之前被先发制人禁止的一个例子。

威廉姆斯是参加由印度大使阿曼迪普辛格吉尔主持的为期一周的致命自主武器系统政府专家组会议的竞选代表团成员。 各国将在 24 月 XNUMX 日举行的《特定常规武器公约》缔约方年度会议上就这一问题的未来工作做出决定。

“各国必须对越来越多的担忧做出回应，即讨论对致命自主武器系统的担忧的脆弱外交进程在财政上摇摇欲坠，失去重点，并且缺乏明确的努力目标，”人权观察运动协调员玛丽·韦勒姆说。停止杀手机器人。 “在此期间，我们敦促同意保留人类对武器系统控制的必要性的国家迅速通过这方面的国家政策和法律。”

这是 CCW 政府专家组有史以来的第一次会议，但它标志着自 2014 年以来各国第四次在 CCW 会议上讨论致命的自主武器系统。 政府专家组原定于 2017 年举行两次会议，但由于实施复杂的联合国财务会计制度以及某些国家未能支付其分摊的特定常规武器会费，今年早些时候的第一周会谈被推迟并取消.

主席为《特定常规武器公约》会议准备的一份“深思熟虑”文件包含几个与致命自主武器系统问题没有直接关系的技术和法律/伦理问题。 该运动认为，应寻求其他机制来考虑有关人工智能及其对社会的潜在影响的更广泛问题。 临时工作计划中没有考虑到人权，而且似乎没有足够的时间来考虑扩散和安全问题以及未来武器系统所需的人为控制。

第 36 条的理查德·莫耶斯 (Richard Moyes) 表示：“与其扩大这场辩论和失去焦点，不如集中精力培养对如何以及在何处划定武器系统自主性必要边界的共同政治理解。”

数十个国家已经确认需要保留人类对目标选择和武力使用的控制。 在为 GGE 会议发布的一份工作文件中，俄罗斯表示，“绝大多数国家同意，此类武器系统失去对人类有意义的控制是不允许的。”

目前，包括 CCW 国家、美国、中国、以色列、韩国、俄罗斯和英国在内的高科技军队正在使用几种具有不同程度人类控制的自主武器系统。 令人担忧的是，低成本传感器和人工智能的进步使得设计可以在没有任何有意义的人类控制的情况下瞄准和攻击的武器系统变得越来越实用。 如果自主的趋势继续下去，人类将开始淡出决策循环，首先只保留有限的监督角色，然后根本没有角色。

阻止杀手机器人运动从根本上反对允许机器在战场上或在警务、边境控制和其他情况下夺走人的生命。 现在共有 19 个国家支持禁止致命性自主武器系统的呼吁，其中包括罗马教廷和 XNUMX 多位诺贝尔和平奖获得者。 上周，威廉姆斯在教皇弗朗西斯出席的梵蒂冈裁军会议上强调了阻止杀手机器人发展的迫切需要。

人工智能 (AI) 和机器人社区的许多成员都支持禁止致命自主武器系统的呼吁。 137 年 28 月，来自 2017 个国家的超过 120 名人工智能和机器人公司的创始人和董事签署了一封公开信，要求联合国采取更强有力的行动“保护我们所有人”免受致命自主武器系统带来的危险。 本月，超过 135 名澳大利亚人工智能和机器人专家敦促马尔科姆·特恩布尔总理对致命的自主武器系统采取强硬立场，而超过 XNUMX 名加拿大人工智能和机器人专家则呼吁总理贾斯汀·特鲁多禁止使用武器系统消除有意义的人类生命。控制致命武力的部署。

国际机器人武器控制委员会 (ICRAC) 的诺埃尔·夏基 (Noel Sharkey) 表示：“制止杀手机器人运动并非试图扼杀人工智能和机器人技术的创新，也不希望禁止民用或军用领域的自主系统。” “相反，我们看到迫切需要防止在没有人为考虑的情况下选择目标和使用暴力的关键功能自动化，并确保对每次攻击进行有意义的人为控制。”

CCW 代表和联合国日内瓦认可的媒体受邀参加“制止杀手机器人运动”会外活动简报会，内容涉及：

• 13 月 13 日星期一 00:XNUMX 在 XXII 会议室，活动家将在那里展示新的研究和倡议，包括一部新电影。
• 22 月 13 日星期三 00:XNUMX 在 XXIV 会议室，活动人士将在那里评估关于致命自主武器系统的第一次政府专家组会议，并对未来的《特定常规武器公约》工作计划发表评论。