千禧一代需要禁止杀手机器人的五个原因

然而，尽管我们的c怀疑论者，我们看到千禧一代劳动力的崛起，并且很快就会成为千禧一代的国际领导者。 这种人口结构变化将在很大程度上影响最受关注的问题。 简而言之，我们是我们国家未来的决策者——我们所说的很重要。

所有国际领导人面临的最大挑战之一是确保其公民的安全和保障。 这包括维持当地社区的治安、确保国界安全以及参与国际战争。

越来越多的国家开始资助开发完全自主的武器，也被称为“杀手机器人”； 用于选择目标并在不受人为控制的情况下杀人的系统。 杀手机器人对人类构成重大风险。 以下是千禧一代需要禁止杀手机器人的五个原因。

1. 杀手机器人计算——他们不认为

杀手机器人的行动将由数字引导。 在最基本的层面上，完全自主的武器将是带有流程的机器。 与实时决策不同，机器人参与警务或战争意味着根据预先建立的算法行事，有点像您家庭的桌面，需要不断更新。 这些算法帮助计算机的雷达系统检查其周围环境，以确定目标轮廓是否在其中间。

但是没有反射机制。 杀手机器人将在“传感器-分析-力过程”上运行，机器收集外部数据源，根据其内部编程分析数据源，并在满足条件时施加力（阅读更多信息，请访问 www.article36.org）。 然而，与数据分析相关的机器学习仍然不清楚，这增加了这个问题的复杂性。 这引发了对系统编程代码背后的道德问题的质疑。

2. 杀手机器人背后的算法本质上是种族主义者

我们以前都听说过——千禧一代也是如此 敏感. 这种误解背后的驱动力是年轻一代将正常行为标记为错误的程度。

我们的方法并不完美。 毕竟我们也是吃潮豆的一代。 然而，毫无疑问，千禧一代在面临系统性歧视的弱势群体中争取平等，包括妇女、有色人种、LGBTQ+ 社区、以最低工资工作的人以及不同的宗教群体。

杀手机器人通过预先建立的识别杀戮目标的算法来挑战这些努力。 这些算法可能带有自己的偏见，这些偏见决定了机器的生产。 机器人与人类不同，不能 知道 特定的人是谁或他们在做什么。 相反，他们会扫描与编程到其操作系统中的标准相匹配的识别因素。 这种编程将被迫使用诸如肤色、骨骼结构和面部标记、位置或行为模式等特征。 当机器人必须区分看起来相似但动机完全不同的士兵和平民时，这为潜在的失败打开了大门。

3. 杀手机器人也会犯错

我们都去过那里，千禧一代。 你在早上的课上打开你的笔记本电脑，却发现系统崩溃了。 你的功课没有了，你所知道的生活也结束了。

硬件事故是“不常见的”。 他们只是偶尔发生一次，但不可避免地，他们会找到你。 我们知道这一点是因为硬件并不完美，尽管即使是最复杂的 MacBook 的工程师也接受了专业培训。 然而，与杀手机器人相比，MacBook 的系统相当简单。 全自动武器的危险在于机器人专家、工程师或程序员对最终产品的责任。 如果我们还没有想出如何制造一台没有故障的基本笔记本电脑，那么在风险比课堂上的学生更重要的情况下，我们如何解释机器的完美运行？

4. 杀手机器人助长不稳定

关于围绕价值进行战争圈的基本论点之一。 政治和经济利益的价值在这场辩论中至关重要。 千禧一代，我们都知道个人利益！ 这有点像成年人说我们自私。

杀手机器人的兴起围绕着公民将不再需要进行物理战争的想法进行宣传，从而使战争更加精确，并最大限度地减少或消除人员伤亡。 但这并不完全正确。

关于杀手机器人有很多问题，即使是最老练的工程师、机器人专家和立法者也尚未回答。 几乎没有证据表明自主武器会对平民产生积极影响。 事实上，饱受战争蹂躏的国家的平民很可能因为与战斗人员的外表相似而被错误标记为目标的风险更大。 例如，考虑到 ISIS 的战斗服，黑色面罩覆盖除眼睛以外的所有部位。 这会给附近穿着黑色面纱或罩袍的女性带来风险。 此外，这会使附近的儿童处于危险之中。 部署杀手机器人的国家的平民也有理由担心。 例如，如果开发和使用完全自主的武器，它们理论上可以用于或取代国内警务。 这使面临过度警务或警察暴力的弱势社区面临被机器人警察部队监视的风险。 我们如何期望完全自主的武器响应几乎没有描述肇事者身份的 911 呼叫？ 如果机器人必须实时识别目标，我们能否期望机器人知道如何应对不可预见的攻击？

这些类型的问题没有答案。 简而言之，我们是盲目地开发机械。

5.杀手机器人贬低生命

与过去几代人的全球关注相比，千禧一代的长期福祉面临的挑战是独一无二的，这已不是什么秘密。 这并不是要消除过去世界悲剧的影响。 毕竟，没有一个千禧一代能够很好地应对大规模的经济萧条。 这种类型的选举权并不是我们的 Instagram 粉丝正在寻找的内容。

然而，与我们的前辈不同，千禧一代面临着一个完全不受任何个人控制的全球挑战：气候变化。 如果没有所有参与者的集体承诺，小到个人日常习惯对跨国公司的大规模生产实践，自然灾害最终将摧毁我们。 人类的终结将是非个人的——仅仅是有害化石燃料、有毒废物和对不同物种栖息地完全不尊重的积累的结果。

有鉴于此，我们开始看到气候变化的影响与杀手机器人之间的许多相似之处。 气候变化就像机器人一样，不承认人类是一个内在的实体。 人类是气候变化试图摧毁的更大系统中的一个小齿轮。 它不考虑其路径中旁观者的结果。 同样，杀手机器人不会将目标识​​别为人类，而是将其识别为要交战的对象。 它的整体任务并不将击杀视为重大事件，而是将任务的完成考虑在内。 归根结底，千禧一代，如果我们希望士兵，无论是机械还是人类，都能理解生命的意义。 鉴于国家授权结束一个人的生命，我们应该期待与警察或军队类似的勤奋行为。

这很简单，千禧一代。 杀手机器人带来的风险大于胜利。 技术的作用永远不是取代我们——而是协助我们完成日常任务。 我们需要审视环境，问问自己这是否是我们想要生活的世界类型。

变革触手可及。 让我们确保我们准时出现以见证它的发生。

参观 停止杀手机器人.org 有关杀手机器人的更多信息以及您可以对它们做些什么。 #TeamHuman

Caroline Fox 于 2019 年 XNUMX 月至 XNUMX 月期间在加拿大矿业行动公司实习，担任阻止杀手机器人运动的通讯助理，同时在渥太华大学攻读研究生。

原文章发表于 Medium.com.