种族和杀手机器人

数字非人性化和算法偏见

从社交媒体到警察执法对机器狗的使用，人工智能技术和自动化决策现在在我们的生活中发挥着重要作用。我们社会中的偏见存在于我们设计的算法、我们编译的数据集和我们互相规定的标签。

面部和声音识别等新兴技术利用已经存在偏见的训练数据集，并且经常无法识别有色人种、残疾人和女性，偏爱浅肤色和外表男性化的面孔，而不是深色皮肤和外表女性化的面孔。

尽管将努力使数据集多样化，但这不仅仅是数据不具有代表性的问题。

“面部识别有可能被执法部门武器化，以对抗世界各地的边缘化社区。从新德里到纽约，这种侵入性技术使我们的身份与我们背道而驰，并破坏了人权。”

国际特赦组织人工智能和人权研究员 Matt Mahmoudi 博士。

加剧种族化社区的伤害

武器是殖民和帝国权力的工具，助长了冲突和战争，对可见的少数群体和弱势社区造成了不成比例的影响。面部识别和其他形式的人工智能技术正在强化现有的歧视制度模式，从而对历史上被边缘化的社区造成不成比例的影响。

许多具有不同程度自主权的技术已经被广泛推出，而没有停下来考虑规范使用的后果。在不断增加的自动化范围的最极端的是杀手机器人。

支持自主武器的技术将自动分析、模式匹配和处理人员作为数据。

系统性种族主义和白人至上主义与武器的开发和使用密不可分。有问题的新技术也经常首先在边缘化社区进行测试。

我们应该挑战不平等的结构，而不是将它们嵌入武器中。

加入#TeamHuman

我们呼吁制定新的国际法，因为禁止和规范武器的法律为政府和公司在可接受和不可接受之间划定了界限。我们可以通过使用我们的集体声音和公开要求变革，以更大的势头推动这一进程。

保持最新

交叉性、种族主义和杀手机器人

什么是交叉性？当我们讨论杀手机器人和种族主义时，为什么它很重要？具有黑人女权主义和有色人种激进主义女性的历史和理论根源，交叉性是一个概念，承认所有形式的压迫，如能力主义、阶级主义、厌女症和种族主义；并检查这些压迫如何联合运作。

Joy Buolamwini 如何对抗算法中的偏见

麻省理工学院的研究生 Joy Buolamwini 在使用面部分析软件时发现了一个问题：该软件没有检测到她的脸，因为编写算法的人没有教它识别广泛的肤色和面部结构。现在，她的任务是消除机器学习中的偏见，她将这种现象称为“编码凝视”。关于编码中问责制的必要性的令人大开眼界的讨论......随着算法接管我们生活的越来越多的方面。

杀手机器人和非洲

随着第四次工业革命的到来，大量的技术创新改变了我们的生活和工作方式。这种创新也见证了战争的新方式。士兵不是人，而是机器人。新一代自主武器或“杀手机器人”可能会极大地改变军用无人机技术。人权法专家 Thompson Chengeta 博士与南非广播公司谈论杀手机器人以及为什么生活在非洲的人和他们的政治领导人应该关注武器系统的自主性。

杀手机器人与人权

杀手机器人对人权有何影响？国际特赦组织的拉沙·阿卜杜勒·拉希姆 (Rasha Abdul Rahim) 详细阐述了自主武器系统对人权的一些影响。