菜单英雄形象
一位女性软件工程师直视摄像头,身上投射着五颜六色的代码。

数字去人性化——当机器而不是人做决定时

Isabelle Jones 是阻止杀手机器人运动的运动外展经理。 她领导努力扩大和加强运动网络,并通过资金、资源和协调为运动者提供支持,以建立动力和为运动注入活力。

我们没想到一场阻止杀手机器人的运动e 世界上需要——但它是。 在全球范围内,我们看到计算机处理和算法思维的影响越来越大:“有一个应用程序可以解决这个问题!” 到一个全新的水平。 从“智能家居”和物联网到 面部识别 以及 预测性警务 - 我们越来越倾向于所谓的技术“解决方案”。 被誉为优先考虑精度、效率和速度的技术被视为灵丹妙药。 但代价是什么? 这种技术解决方案的推广没有考虑技术设计固有的数据偏差,或者从我们生活的结构和我们面临的挑战中消除人类对背景和细微差别的理解的后果。

当机器决定,而不是人

在自动化程度不断提高的范围的另一端,武器系统越来越能够使用计算机编程和传感器来识别和选择目标,范围更广、时间更长。 这意味着更少的人类直接参与和对攻击中发生的事情的理解——这意味着更接近机器来决定杀死谁。

像这样的武器系统提出了许多伦理、道德、法律、技术和安全 关注.

我们需要画一条线。 我们的人性,我们复杂的身份,不应该被简化为身体特征或行为模式,由无法理解生命、人权或自由概念的系统进行分析和模式匹配。 人们不会 看到 通过杀手机器人——他们会 处理. 这种数字非人性化将剥夺人的尊严,贬低个人的人性,并通过技术自主决策消除或取代人类的参与或责任。

我们希望建立一个拒绝将活人减少到数据点、自动分析、处理和施加力量的系统的未来。

闭路电视摄像机填满一堵砖墙,指向人行道,而一名身穿白衣、头罩上的笑脸和“X”字眼的黑人走过。

照片由阿文凯恩斯拍摄。

我们正在采取哪些措施来应对 2021 年的数字非人化

政府代表一直在努力解决这对国际人道法(“战争法”)意味着什么 自2013,但去年我们看到 外交进展陷入停滞 在 COVID-19 大流行和缺乏推进的政治意愿中。 讨论尚未恢复。 尽管遭遇挫折,但我们知道 2021 年和 2022 年具有变革的潜力。 它们将是过渡、进化和机遇的岁月。

我们鼓励竞选团队和我们更广泛的成员中的新领导和代表。 我们正在努力反映我们全球联盟汇集的人员、组织、技能、专业知识和观点的多样性。 我们将充分利用 2021 年的潜力——增加政治压力,建立政策连贯性,扩大我们的社区,吸引充满活力的利益相关者和合作伙伴,并为谈判建立坚实的基础。 我们相信的条约. 一项拒绝杀戮自动化的条约,而是坚持人类的基本原则,不是通过计算而是通过理解来评价彼此,促进人类控制使用武力和新兴技术的原则。

我们没想到世界上需要一场阻止杀手机器人的运动——但确实如此。

为了避免实现自主杀戮,各国需要禁止所有使用传感器瞄准人的系统。 这是 三大支柱之一 阻止杀手机器人的运动认为在一个迫切需要 保留对使用武力进行有意义的人类控制的国际条约. 随着我们进入 2021 年,比以往任何时候都更需要它。

因此,让我们充分利用我们所拥有的机会,防止数字非人化的最终表现。 让我们利用这个机会来防止我们在使用其他滥杀滥伤的武器时看到的生命和肢体的损失。 让我们共同努力,确保我们不会让渐进式自动化取代人类决策最应该出现的地方。

国际社会越来越认识到,缺乏人类有效控制的武器系统跨越了一个关键的门槛,必须予以禁止,并且 公众对全自动武器的反对依然强烈. 所以我们并不孤单。 我们的活动家正在努力通过与有关国家接触,支持召开“数字外交”会议的努力,以及在大流行的现实中优先考虑政治外展和极具创新性的国家竞选活动,以建立对条约的支持。 我们希望你加入他们。

我们没想到世界上需要一场阻止杀手机器人的运动——但确实如此。

阻止杀手机器人运动的机器人站在纽约联合国大楼外,太阳照在大楼上。 联合国旗帜在远处飘扬。

纽约联合国大楼外的制止杀手机器人运动。 阿里·贝塞尔摄


原创文章 Medium.com.

伊莎贝尔琼斯

图片替代文字
SKR 点图标

停止杀手机器人

来参加我们的

跟上停止杀手机器人运动的最新发展。

来参加我们的