公司创始人要求联合国对杀手机器人采取行动

制止杀手机器人运动敦促各国政府注意 公开信 由来自 126 个国家的 100 多家机器人和人工智能公司的 28 位创始人和董事签署，要求采取紧急行动解决完全自主武器问题。

开幕式上发布 一场关于人工智能的重大国际会议 (AI) 21 月 XNUMX 日在墨尔本， 邮件 列出了许多关于完全自主武器的问题，也称为致命的自主武器系统或杀手机器人。 它警告说，这些武器可能会被“暴君和恐怖分子”使用，并“被黑客入侵以做出不受欢迎的行为”。

公司创始人表示，他们“对发出这个警报感到特别负责”，并警告说“我们没有时间采取行动”，因为“一旦这个潘多拉的盒子打开，就很难关闭”。 他们呼吁各国在 常规武器公约 (CCW) 以“保护我们所有人”免受完全自主武器带来的危险，并为其研究人员和工程师提供技术支持，以支持在完全自主武器方面步履蹒跚的 CCW 进程。

签署人包括特斯拉、SpaceX、OpenAI（美国）的创始人埃隆·马斯克、谷歌 DeepMind（英国）的创始人穆斯塔法·苏莱曼（Mustafa Suleyman），以及领先的深度学习专家和 Nnaisense（瑞士）的创始人 Jüergen Schmidhuber。

人工智能专家 托比沃尔什 澳大利亚、加拿大、中国、捷克共和国、丹麦、爱沙尼亚、芬兰、法国、德国“雇佣了数以万计的研究人员、机器人专家和工程师”的公司创始人在信中签名。 、冰岛、印度、爱尔兰、意大利、日本、拉脱维亚、墨西哥、荷兰、新西兰、挪威、波兰、俄罗斯、新加坡、南非、西班牙、瑞士、英国、阿拉伯联合酋长国和美国。

据沃尔什称， 邮件 “表现出机器人和人工智能行业对此的明确关注和大力支持。”

领先的深度学习专家、Element AI（加拿大）的创始人 Yoshua Bengio 表示，他支持这封信，因为“在自主武器中使用人工智能会损害我的道德感”，“会损害人工智能良好应用的进一步发展”。 本吉奥敦促国际社会像对待生物、化学、核武器等“其他道德错误的武器”一样对待自主武器。

另一位签署人是世界上最杰出的人工智能研究人员之一，贝叶斯逻辑公司的创始人斯图尔特罗素，他将禁止致命自主武器的条约描述为“对国家和国际安全至关重要”。 罗素警告说，“新的大规模杀伤性武器——以大量致命的微型无人机的形式”的发展和扩散。

签署人包括 瑞安·加里皮，Clearpath Robotics（加拿大）的创始人兼首席技术官，该公司是 第一家支持禁令的公司 三年前的完全自主武器。 根据加里皮的说法，“自主武器系统目前正处于发展的风口浪尖，并且有可能对无辜人民造成重大伤害以及全球不稳定。”

A 上一次公开信于 2015 年 XNUMX 月发出 在上一届国际人工智能联合会议 (IJCAI) 上，将“军事人工智能军备竞赛”称为“坏主意”，并敦促禁止“缺乏有意义的人类控制”的武器系统。 迄今为止，这封 2015 年的信函已由超过 20,000 人签署，其中包括 3,100 多名人工智能/机器人研究人员。

2016 年 2017 月，各国同意在《常规武器公约》（CCW）上正式讨论致命性自主武器系统。 政府专家组 (GGE) 本应在 XNUMX 年召开两次会议，但财政挑战导致 取消第一次会议 原定于 21 月 XNUMX 日开放的 GGE。

阻止杀手机器人运动 敦促各国 使用 CCW 政府专家组在 2018 年底之前开始就一项新的 CCW 议定书进行谈判，该议定书先发制人地禁止完全自主武器。 预计将有 90 多个国家参加 13 月 17 日至 XNUMX 日在联合国日内瓦举行的 GGE 会议，以及联合国主要机构、红十字国际委员会和制止杀手机器人运动。

更新：这篇文章于 25 月 116 日更新，以反映公开信的最新签署人数量，最初是来自 26 个国家的 XNUMX 名公司创始人。

有关更多信息，请参阅

• 2017年公开信, PDF版 （截至24月XNUMX日）， 新闻稿及 23月XNUMX日墨尔本活动 与主要签署人
• 2015年公开信 和网络帖子
• 2017人工智能国际联席会议 （国际JCAI）
• 与签署人的访谈 托比沃尔什 和 瑞安·加里皮

照片：Pepper 机器人由 Aldebaran Robotics（法国）制造，其创始人 Jerome Monceaux 已在 2017 年的信中签名。 Pepper 于 2016 年 XNUMX 月在日本援助和救济协会在东京召开的一次活动中展示在这里，以讨论制止杀手机器人的运动。