技术乐观主义、人权和杀手机器人……

机器人已经存在了这么久 sci-fi 传说，它们在现实中并不构成直接威胁。 但我们不是在谈论你在电影中看到的那些人形机器人——我们谈论的是真正的武器系统，它们被编程为自主选择目标并杀死。 最近，看着 COVID-19 的监控和人工智能“解决方案”的爆炸式增长，在我看来，对技术乐观主义的渴望并没有考虑到这些技术最终将产生的长期影响。 这对其他年轻人来说是，也应该是，因为它对我们的人权和我们的未来产生了影响。 现实情况是，自主武器系统的存在不仅限于在冲突地区使用，我们对这些武器的担忧不应就此止步，因为我们可能会在不久的将来在警察部队中看到它们。 这些武器的开发和使用不仅 构成 严重侵犯人权，但也会被视为过度、任意和不必要地使用武力。

W在冲突和人道主义解除武装的背景下讨论了完全自主武器 在联合国 （在致命自主武器或 LAWS 术语下），考虑在非冲突情况下开发和使用自主武器变得越来越重要。 作为一名年轻的活动家和人权活动家，在考虑到这些武器如何给参加抗议的人带来巨大风险时，杀手机器人问题变得更加紧迫。 也就是说，可能不那么“杀手”，但同样致命。 随着公民和政治权利继续受到抨击，而监视权力不断扩大，政府现在必须采取行动防止这些武器成为现实。 “非致命性”或“低致命性”自主武器尚不存在，但 他们相距不远 对我们人权的未来构成最大威胁的是这些技术的正常化。

照片由亚历克斯·拉德利奇 (Alex Radelich) 拍摄。

S无人机监控技术并不新鲜，但它适用于 大流行警务 这意味着不难想象它们被重新用于“不那么致命”的自主武器。 毕竟美国用的是军用级捕食者无人机飞过 城市 ，我们将参加 抗议，而以色列已使用遥控无人机 分散 巴勒斯坦抗议者身上的催泪瓦斯。 那么，将这些武器想象成自主的，盘旋在一群准备分散化学剂的抗议者身上，是不可能的吗？ 事实上，同样的监控技术 确定 物理距离可能能够识别或预测某些类型的 活动，提醒自主武器使用非致命弹药或催泪瓦斯向人群开火。 使用的监视无人机 声音 可以配备使人迷惑和混淆的声音，以传播抗议者。 虽然根据《联合国人权宣言》，每个人都有权进行和平抗议——但监控权力的增长导致抗议者更加警惕保护自己的身份免受执法部门的迫害。

照片：米歇尔·亨德森

然而，由于 COVID-19，平民蒙面的增加促使那些开发面部识别技术的人 调整他们的方法 这样系统就可以识别戴着口罩的人的脸。 因此，许多通常会戴着面具向当局隐瞒身份的抗议者可能很快就会失去“隐藏”的能力。 如果“不那么致命”的自主武器 ted装 通过面部识别，他们不仅可以对著名抗议者和其他有抗议历史的平民构成风险，而且还会 偏，恶化和编纂 种族貌相. 最后，地理标记——无论是通过手机使用某些应用程序、照片、视频还是其他媒体——可以为当局提供有价值的位置数据，使他们能够跟踪个人的下落和他们接触的人。 这种技术可以被用来强迫人们留在某些区域，从而限制他们自由行动的权利，甚至可能阻止他们聚集在一起抗议。 对于那些生活在高度警戒、被占领或控制的地区的人来说，这尤其令人担忧，在这些地区，当局可能会强迫人们留在指定的区域内。

N规范技术解决方案趋势对未来很重要，因为虽然人们可能会接受今天的技术创新，但我们还没有准备好将它们应用于未来的完全自主武器系统。 这项技术的开发和使用所带来的人权风险使这个问题变得如此紧迫，不应将自主武器视为孤立于冲突局势的问题。 随着执法部门多年来日益军事化，这些武器完全有可能成为您“后院”的一部分。 作为一名年轻的活动家，这些不是我在抗议时想面对的那种武器——而且其他人也不应该面对它们。

Fully 自主武器会将生死决定委托给机器、程序和算法——跨越道德红线，违反旨在保护平民的法律，威胁人权，并破坏全球安全。 想更多地了解完全自主武器带来的人权风险，为什么现在阻止它们还为时不晚？ 20月XNUMX日前报名 30 年 2020 月 XNUMX 日加入我们的 RightsCon。

Farah Bogani 是加拿大渥太华制止杀手机器人运动的项目官员。 她之前曾在国际特赦组织位于英国伦敦的秘书处办公室工作。

原文章发表于 Medium.com.