菜单英雄形象

真实故事

利兹

我是 Liz O'Sullivan,人工智能活动家和 Rumman Chowdhury 博士 Parity 的新首席执行官。 在我 10 多年的技术职业生涯中,我一直在人工智能行业的商业方面工作,其中包括两年在一家与军事有联系的计算机视觉公司管理数据采集和运营。 在意识到它有可能被包含在致命的自主武器系统中作为目标系统之后,我因为有争议的 Maven 项目而辞去了我的工作。 就在那时我迷上了 Stop Killer Robots,从那以后我就再也没有回头!

图片替代文字

有针对性的广告、银行贷款审批、预测性警务……武器自主、自动化越来越成为我们生活的一部分。 你最担心什么类型的数字非人化,为什么?

这种最近的“技术冲击”和对该行业的批评的主要好处之一是,它为许多人打开了一扇门,他们可能没有意识到模特在管理他们的生活方面发挥的作用。 即使是非机器学习自动化,如信用评分,也有可能无意中歧视人们。 但是当涉及机器学习时,这种潜力几乎可以保证。 我尤其担心贷款、招聘和医疗保健。 但最紧迫的问题是在刑事司法中的应用。 任何使用本质上“保守”的技术,因为它将过去的条件保留到未来,很可能会重复我们的歧视性过去。 警察和军队对这种技术的使用目前高度不受监管,让部门和警察工会决定什么对公众来说是正确的,通常是在我们不知情或未经我们同意的情况下。

告诉我们您看到或经历过因使用技术、程序或算法而遭受歧视、风险或压迫的经历。

我永远不会忘记,在一家计算机视觉初创公司,我被要求创建一个审核数据集,该数据集将成为检测色情材料的模型。 对于希望在一定程度上自动化用户内容的大型平台,这是 AI 的常见应用。 我们向印度发送了一个大型数据集进行标记,当它返回时,由于当时该地区 LGBTQ+ 生活方式的非法性,所有的同性恋夫妇(尽管衣着齐全)都被视为“露骨”。 如果我们训练这个模型并将其投入生产,突然间所有表达爱的同性伴侣的安全图像都会被平台自动拒绝。 这只是歧视性偏见在数据集中出现的多种方式的一个小例子,我们已经看到了很多!

你相信个人可以有所作为吗?

如果说过去几年向我们展示了什么,那就是个人可以有所作为,而您不必为此冒职业风险。

就我个人而言,我提出我的故事是因为我意识到“杀手机器人”不是未来的科幻问题,而是存在于今天的现实中。

自从上任以来,我遇到了许多令人难以置信的组织和人们,他们为在战场上维护人类尊严而献出了自己的生命。 他们不需要你对你的公司吹哨或冒任何个人风险,他们只需要你支持他们的工作!

你是什​​么时候第一次了解杀手机器人的,你是怎么想的?

自从我的母亲和我在整个童年时期都吞噬了星际迷航:TNG 以来,我一直是科幻小说的狂热者,所以机器人杀人的概念对我来说并不陌生。 我一直很欣赏阿西莫夫的原则,主要是机器人不应该被编程来杀死人类的想法。 它似乎总是如此简单而重要的设计细节,有可能拯救生命和我们的星球。 “不要把枪给机器人”……说的有道理!

直到 2018 年左右,我认为问题已经很远了,我们可以把罐子踢得更远一点,继续不用担心科幻机器世界末日的可能性。 我错了! 我在过去两年的研究最终表明,这些武器已经存在,而且各国正在全球军备竞赛中逐底推进,在没有任何国际协议对其进行管理的情况下建立自主武器系统。 我真的希望各国能够共同努力,对战斗中的自主权进行严格限制。

到目前为止,2020 年有些艰难。 什么给了你希望?

特别是,支持隐私和反对自动化的运动在过去几年中获得了如此大的吸引力。 我们甚至开始看到反垄断诉讼的希望,这在美国是非常罕见的! 这场运动背后的人是如此鼓舞人心,他们给了我生命。 我很幸运认识了 Stop Killer Robots 的成员以及在联合国及其他地区工作在前线的人们。 他们摇滚!!!

为什么你是停止杀手机器人运动的一部分?

我是这场运动的一部分,因为我亲眼目睹了计算机视觉可能失败的所有方式。 计算机视觉是杀手机器人技术堆栈的重要组成部分,看到最先进的模型以疯狂、狂野和不可预测的方式失败,这对我挺身而出的决定产生了影响。 不仅仅是这些模型失败了,问题在于它们是如何失败的。

当您向模型方程添加不可预测的元素时,他们不知道如何处理它们。 模型和机器人并不聪明,它们很脆弱,只能按照他们在实验室条件下接受过的训练来工作。 但是“实验室条件”确实不同于战场场景,如果没有水晶球,就永远无法准确预测。

图像分辨率、光照条件、拍摄角度和隐形对抗性攻击等因素让我担心未来独裁者和独裁者(甚至大国)可以廉价购买、制造和部署这些武器,即使他们不这样做工作得很好。

现在阻止我们的政府将这种科幻反乌托邦变为现实还为时不晚!

图片替代文字
SKR 点图标

停止杀手机器人

来参加我们的

跟上停止杀手机器人运动的最新发展。

来参加我们的