谷歌、其他公司都已成为其原因

谷歌及其母公司 Alphabet 开始解决人工智能 (AI) 和机器学习的发展引发的一些道德问题，但迄今为止，尚未就武器系统中不受限制地使用自主权和人工智能采取立场。 这些和其他科技公司，如亚马逊、微软和甲骨文，应该公开支持禁止完全自主武器的呼吁，并承诺永远不会帮助开发这些武器。 这样做将支持迅速扩大的国际努力，以确保在战争或警务和其他情况下永远不会将夺走人类生命的决定委托给机器。

近几个月来，要求谷歌承诺永远不会帮助创建武器系统的呼声越来越高，这些系统可以在没有有意义的人类控制的情况下选择和攻击目标。 上个月四千多 谷歌员工发出公开信 要求公司采取明确的政策，声明谷歌及其承包商都不会建造“战争技术”。

14月800日，XNUMX多名从事信息技术研究、教学和发展的学者、学者和研究人员 发表了一份声明 与呼吁公司的 Google 员工团结一致 支持禁止自主武器系统的国际条约 并承诺不将公司收集的个人数据用于军事目的。

在 监护人 五月16上，学术信函的三位合著者强调了谷歌面临的关键问题，例如：“它是否应该使用其最先进的人工智能技术、最好的工程师、云计算服务以及它收集的大量个人数据来为推动自主武器发展的计划做出贡献？ 它是否应该不顾数千名员工的道德和伦理反对而继续进行？”

以前，在 12 月 XNUMX 日致 Google 和 Alphabet 负责人的一封信，制止杀手机器人运动建议这些公司采取“积极主动的公共政策”，承诺永远不从事旨在开发和获取完全自主武器系统（也称为致命自主武器系统）的工作，并公开支持呼吁为禁令。

所有这些信件都表达了对谷歌参与国防部资助项目的担忧，以“协助 在未分类数据的物体识别中”包含在军用无人机收集的监控录像中。 根据五角大楼, Maven 项目涉及“开发和集成计算机视觉算法，以帮助军事和民用分析人员受到国防部每天收集的大量全动态视频数据的阻碍，以支持反叛乱和反恐行动。” 该项目于去年开始，旨在将“国防部可用的海量数据快速转化为可操作的情报和决策质量洞察”。

Maven 项目提出了有关将机器学习和人工智能 (AI) 适当用于军事目的的道德和其他问题。 阻止杀手机器人的运动是 关心 AI 驱动的物体识别可能会迅速模糊或转变为 AI 驱动的“目标”识别，作为杀伤力方向的基础。 这可能使机器能够确定目标是什么，这将是对该技术的不可接受的广泛使用。 这就是为什么该活动正在努力保留对识别、选择和参与目标的关键功能的有意义的人工控制。

谷歌代表是 参与对话 与阻止杀手机器人运动，并在上个月向运动协调员 Mary Wareham 提供了一份声明，称其在 Maven 项目上的工作“用于非攻击性目的，并使用任何谷歌云客户都可以使用的开源对象识别软件。 这些模型仅基于未分类的数据。 该技术用于标记图像以供人工审查，旨在挽救生命并使人们免于从事极其繁琐的工作。”

2015 年 XNUMX 月，谷歌研究总监 Peter Norvig、学者 Geoffrey Hinton 和 AI 负责人 Jeff Dean 等知名员工共同签署 一封公开信 数以千计的人工智能专家支持，概述了致命自主武器系统带来的危险，并呼吁制定新的条约来禁止这些武器。

在 Google DeepMind，首席执行官 Demis Hassabis、联合创始人 Mustafa Suleyman 和 2015 位工程师、开发人员和研究科学家也签署了 XNUMX 年的信。 次年在 提交给英国议会委员会 谷歌 DeepMind 表示：“我们支持国际条约禁止使用致命自主武器系统来选择和定位目标并在没有人为控制的情况下对其部署致命武力。 我们认为，这是避免开发和使用此类武器可能产生的有害后果的最佳方法。 我们建议政府支持为实现此类禁令所做的一切努力。”

上个月，亚马逊的杰夫贝索斯 表示关切 完全自主武器的可能发展，他称之为“真正可怕的”，并提出了一项多边条约来规范它们。 制止杀手机器人运动欢迎这些言论和 鼓励亚马逊 赞同关于禁止完全自主武器的新条约的呼吁，并保证不促进这些武器的发展，因为 Clearpath Robotics 和其他公司已经做到了.

如果一家公司未能应对自主和人工智能的军事应用所带来的根本挑战，那么发布道德原则就毫无意义。 负责任的公司应该认真对待并公开支持越来越多的要求各国紧急谈判新条约以禁止完全自主武器的呼吁。

更新：7 月 XNUMX 日，谷歌发布了其道德原则，包括承诺不开发用于武器的人工智能。 Google 员工将这些原则转发给了活动协调员，并对提供的意见表示感谢。 该发布是在新闻报道之后发布的 Gizmodo的 1 月 XNUMX 日，谷歌已决定终止其参与 Maven 项目的合同将于明年到期。

有关更多信息，请参见：

• Google 员工的来信（XNUMX 月）
• 学术信息 邮件 （14 May）
• 阻止杀手机器人运动的信件 Google 和 Alphabet（12 月 XNUMX 日） 和 亚马逊（16 月 XNUMX 日）.