菜单英雄形象

新兴技术和人工智能

我们没想到世界上需要一场阻止杀手机器人的运动——但确实如此。

从智能家居和定向广告到警察执法使用机器狗,人工智能技术和自动化决策现在在我们的生活中发挥着重要作用。 技术可以是惊人的。 但仅仅因为我们 能够 建立一些东西,这并不意味着我们 应该. 许多具有不同程度自主权的技术已经被广泛推出,而没有停下来考虑规范使用的后果。 为什么我们需要谈论这个?

因为机器不把我们看作人,只是另一段需要处理和排序的代码。

 

图片替代文字

数字去人性化:由机器而非人来决定。

完全自主的武器将决定谁生谁死,无需进一步的人类干预,这跨越了道德门槛。 作为机器,它们将缺乏做出复杂道德选择所必需的同情心等固有的人类特征。

数字去人性化:由机器而非人来决定。

我们担心的技术会将活着的人减少到数据点。 我们的复杂身份、我们的身体特征和我们的行为模式被分析、模式匹配并分类成配置文件,机器根据我们适合哪个预编程配置文件做出关于我们的决定。

这对历史上被边缘化或脆弱的社区产生了非常现实的影响。 那是因为技术往往会巩固——而不是挑战——已经存在的关于人们是谁的偏见。 刻板印象是由自动决策制定的。

 

这与杀手机器人有什么关系?

在不断增加的自动化范围的最极端的是杀手机器人。

技术的进步现在允许武器系统自主选择和攻击目标。 这意味着在使用武力时,我们对正在发生的事情及其原因的控制较少。 这意味着我们更接近于决定杀死谁或摧毁什么的机器。 对于机器,“谁”和“什么”之间没有区别。

 

图片替代文字

将用于自主武器的技术将使人们减少数据并使他们遭受攻击——这是数字非人化的最终形式。

完全自主的武器将决定谁生谁死,无需进一步的人类干预,这跨越了道德门槛。 作为机器,它们将缺乏做出复杂道德选择所必需的同情心等固有的人类特征。

目前正在开发用于武装冲突的杀手机器人,这将带来毁灭性的后果。 但随着我们社会自动化程度的提高,杀手机器人将不仅仅局限于战场。 毫无疑问,它们也将用于边境控制、警务和其他社会领域,这些领域应该最有有意义的人类控制。

我们现在就可以行动起来,划清法律和道德的界限。 我们都需要为技术的开发和使用以及它在我们生活中所扮演的角色承担责任。 杀手机器人不只是出现——我们创造了它们。 我们现在有机会在技术发展走得太远之前采取行动阻止杀手机器人。

更少的自主权。 更人性化。

因此,当谈到数字非人性化——以人为目标的武器系统时——我们需要更少的自主性和更多的人性。

了解更多

 

播放视频 图片替代文字

杀手机器人、人权和数字非人化

国际特赦组织技术与人权项目的人工智能与人权研究员兼顾问马特·马哈茂迪博士谈到了人工智能、新兴技术、人权和自主武器。

图片替代文字
SKR 点图标

停止杀手机器人

来参加我们的

跟上停止杀手机器人运动的最新发展。

来参加我们的