菜单英雄形象

数字非人化报告

数字监控时代的机器人,机器人时代的数字监控

一篇文章 马修·瓜里利亚, 电子前沿基金会政策分析师

 

 

你的信息不是你自己的,不再是。

你的手机、你的电脑、你的数字扬声器中的麦克风、你办公楼上的安全摄像头、你在十字路口从未注意到的自动车牌阅读器,每秒都在收集它它存储在某个地方。 但越来越多的关于你的位置、你的购买、你的生活的数据的收集者和囤积者也不再是这些信息的唯一所有者。 信息领域是地狱般的、令人偏执的数据共享阵列。 公司大量出售您的信息 数据经纪人市场. 警察通过简单的请求从您每天使用的消费者公司收集信息, 过于宽泛的认股权证,或数据共享协议。 从执法机构获得有利可图合同的公司越来越多 承诺访问政府数据 使用算法来发现看不见的模式 已经倾斜的犯罪统计数据集合.

作为一个社会,我们已经看到了这些纠缠的后果。 数据经纪人购买了 穆斯林约会和祈祷应用程序用户的地理定位数据 并将其卖给美国军事承包商。 人们普遍担心,向警察部门和私人社区协会提供自动车牌阅读器的私营公司可能会 利用他们的整个网络来帮助各州起诉堕胎者. 警察甚至可以请求紧急访问商业家庭监控摄像头 未经授权或用户同意 直接去公司。

 

甚至家庭设备,如 冰箱 越来越“聪明”,配备了麦克风和摄像头,正在收集数据。 这已经够糟糕的了,我们现在可能不得不生活在恐惧中,因为我们的冰箱会 记录我们吃的东西 并将这些数据出售给食品广告商,但在 2018 年,我们还听到有关美国和英国情报机构如何有能力 控制语音识别系统 在智能电视中。

 

亚马逊和谷歌等大型公司的私人数据存储服务器越多地兼作警察部门和其他执法机构的证据室,您的数据就越有可能在刑事调查中受到审查。 新近但越来越受欢迎的权证,例如 地理围栏或反向关键字搜索权证 这意味着,警方不会要求提供与特定嫌疑人有关的信息,而是向公司发送请求,要求其提供手机碰巧在事发地点附近的任何人的数据,或者任何通过谷歌搜索过商店地址但后来被盗的人的数据可能成为主要嫌疑人。

 

好像这种数据共享、执法以及潜在的暴力和逮捕还不够复杂的有害组合还不够复杂,请输入一个新元素:机器人技术。 机器人和无人机,无论是自主的还是远程控制的,都是收集数据并根据收集到的数据运行的机器。 这些新的滚动和飞行数据机器将如何与已经设计为剥夺人们隐私的景观互动? 随着它们在消费者和执法数据如此纠缠不清的世界中越来越多地被使用,它们会引起哪些新的担忧?

 

让我们从我们目前所处的位置开始。 对警察使用机器人和无人机的担忧并不是看太多科幻电影的产物。 您不必确信 天网接管迫在眉睫 为了对不久的将来执法部门随时使用机器人或依赖机器人收集的数据感到恐惧。 对于那些一直密切关注警察部门和消费技术市场的人来说,这并不是耸人听闻的恐惧。 也没有几年了。 这不是假设。 它在这里。

 

警察部门正在大量购买遥控无人机,目的是“态势感知”或被称为“f力量倍增器” 在家里,公司渴望向你推销 无人驾驶飞机 和R配备麦克风和摄像头的机器人 它收集有关您家布局的数据,以便更好地巡逻您的生活空间。 警察部门和私人实体目前都在部署自主机器人 搜索“可疑行为,” 收集数据,或者只是一般地充当滚动的“帮助”按钮。

 

尽管机器人已经在巡逻我们 街道, 公园, 商场, 和 杂货店,我们必须与 它们影响我们公民自由的复杂方式. 通过收集大量数据或通过依靠这些数据进行操作使其他大规模监视操作合法化,机器人和无人机的广泛使用代表了隐私战争的新战线。 这甚至还没有开始触及发生在警察或私人演员身上的事情的表面 那些机器人.
照片:Knightscope

协助监视的机器人

虽然它们仍然很少见,但机器人经常代表警察或私人实体希望将一些巡逻工作外包给具有新颖性优势的机器。 没有多少人知道他们的能力是什么或者他们收集了什么样的数据。

 

以 Knightscope 机器人为例,这种自动滚动机器已经在世界范围内巡逻公园、商场和停车场。 虽然该公司强调谈论机器人通过 自拍和媒体提及,一个更令人担忧的因素是他们收集大量数据的能力。 除了视频和音频,这些机器人还能够读取车牌,并拥有无线技术“能够识别其范围内的智能手机,直至 MAC 和 IP 地址。”

 

“当发射 Wi-Fi 信号的设备经过机器人近 500 英尺半径范围内时,”该公司曾在其上解释说 新闻,“从该设备捕获可操作的情报,包括以下信息:机器人和设备之间的位置、时间、距离、设备在该区域的持续时间以及最近在现场检测到的其他次数。”

 

事实是,当自主机器人——甚至是自主车辆——被期望在世界各地穿行时,它们必须依赖无数的摄像头和传感器来确保它们不会撞到任何东西或伤害任何人。 在某些情况下,当局非常明确地部署这些传感器来进行监视。 这就是为什么国土安全部目前 考虑部署机器狗 l作为更大的边境监视基础设施的一部分,它们装载着传感器在美墨边境的偏远地带巡逻。 但在其他情况下,能够实现自主移动的传感器和摄像头成为警方监控设备的一部分是一种幸运的意外。

 

我们常说,如果你收集了足够多的人的数据,最终警察会来索取。 自动驾驶汽车肯定就是这种情况,它们能够像移动监控摄像头一样在城市中巡游,从多个角度收集镜头。 目前在旧金山街道上行驶的自动驾驶汽车就是如此。 2022 年年中的报告显示,旧金山警察局已经要求从这些汽车中收集录像“几次。=

 

好像在警察可以访问的服务器上装有大量视频片段的滚动摄像机还不足以成为一场隐私噩梦,当来自自动机器的所有镜头都可以通过生物识别分析进行搜索时会发生什么? 我们不远了。 特斯拉已经尝试过面部识别 学校以外 他们的车辆。

 

无论是一辆驶过街区的自动驾驶汽车,还是一个记录你手机在公园内的巡逻机器人,机器人的一个好处是它们可以接触到人们,而不会引起警察可能无法获得的怀疑。 这是商用无人机和机器人的主要担忧之一。 会发生什么 如果警察想要搜查一个人的家——他们不是向房主出示搜查令,而是将搜查令出示给一家公司,以换取对家用无人机或机器人的远程访问权限? 像这样的家用设备可能会呈现出一种全新的场景,警察可以在不进入房屋的情况下搜查房屋——而且有可能 没有公司让你知道你的设备已被征用.

 

机器人技术的兴起并非与数字监控呈指数增长同时发生。 两者有着千丝万缕的联系。 这意味着不仅机器人在帮助侵蚀你的隐私——而且收集到的关于你的大量数据也是警察和商业机器人扩大使用的主要推动力。

iRobot 家庭监控 - Owen Williams 推特

帮助机器人的监控

我们已经看到机器人如何协助大规模监控项目——由两家公司、政府机构以及两者协同进行。 未来 10 年的问题将是:机器人、无人机和无人机操作员能够利用这么多信息做什么?

 

很明显,设备的自主性取决于大量数据。 例如,除了可以让机器人避免撞墙的传感器之外,设计用于穿越房屋的消费类机器人还必须能够 那所房子的数字地图.只有时间才能证明警方将如何以及何时要求维护数据的公司访问此类数据。

 

由于警方收集了如此多的人的信息,并且有可能访问公司收集的所有数据,只有时间才能证明这些知识将如何指导警方使用遥控无人机和机器人。 在加利福尼亚州的丘拉维斯塔,警方正在试行一项计划,在该计划中,遥控 UAS(无人驾驶航空系统)会响应 911 电话。 截至目前,该计划依赖于人们主动呼叫急救人员,但是当类似的计划依赖于监视来派遣不再依赖训练有素的操作员的自主无人机机队时会发生什么? 像这样的程序可能比你想象的更接近。

 

ShotSpotter,一家安装大功率麦克风的公司,希望检测枪声并进行三角测量以提醒警方, 已经说过他们会组队 与一家无人机公司合作,派遣自主无人机自动飞往假定的枪击地点。 报道质疑 到底有多准确 这种类型的技术引起了人们的担忧,即无人机和武装警察可能会蜂拥而至,却发现人们在汽车回火或烟花燃放附近。 自动派遣无人机到现场的监控技术也让我们思考下一个场景:警察需要多长时间才能武装这些无人机?

 

 

越过不可逾越的线:武装机器人

每天都有关于武装机器人的提议,尤其是机器人控制的武装机器人,以应对危机情况或通过监视技术提供警报。 2022 年,Axon 不得不放弃部署配备泰瑟枪的遥控无人机作为解决学校枪击事件的计划。 其道德委员会的大多数人辞职 作为提议的结果。 鉴于拟议用途的增加 自主武器系统 世界各地,允许武器——不管怎样 枪, 泰瑟枪,或 炸弹,在遥控机器人和无人机上可能只是当局开始考虑自动化这些系统所需的绿灯。 虽然一些机器人制造商喜欢 波士顿动力公司表示他们永远不会武装他们的机器人,其他受欢迎的公司,如与美国国土安全部合作的 Ghost Robotics,似乎不那么拘谨 武装机器人.

 

结论

 如果您担心机器人警务的兴起,但觉得无处不在的监视不可能真正影响您的生活,请三思。 同样,如果您认为自己是隐私权斗争的一份子,但认为武装机器人的威胁似乎牵强附会,那么是时候考虑一​​下这两种趋势之间的内在联系了。

 

零件都已就位。 在过去的几年里,我们已经看到消费者隐私问题和政府监控如何以令人不安的方式融合在一起——以及机器人技术在这一过程中扮演的越来越重要的角色。 现在是站出来要求对警察部门可以使用的技术、消费者隐私的法规和保护以及严格暂停使用武装机器人进行更多控制的时候了。 未来就在这里,我们已准备好开展必要的多管齐下的运动,以确保这是一场公平的运动。
了解有关数字非人化的更多信息

 

Matthew Guariglia(摄影:Zack Garlitos)

Matthew Guariglia(摄影:Zack Garlitos)

关于马修瓜里利亚:

(摘自 EFF)

Matthew Guariglia 是一名政策分析师,致力于地方、州和联邦层面的监视和警务问题。 他在康涅狄格大学获得历史学博士学位,他的研究重点是种族、移民、美帝国主义和纽约市治安的交集。 他是《基本克纳委员会报告》(Liveright,2021 年)的联合编辑,他的署名出现在 NBC 新闻、华盛顿邮报、Slate、Motherboard 和以信息自由为中心的媒体 Muckrock 上。 Matthew 是加州大学黑斯廷斯法学院的附属学者,并担任“城市纪律”的编辑,这是城市历史协会博客 The Metropole 上关于城市治安和监禁历史的系列文章。

 

 

图片替代文字
SKR 点图标

停止杀手机器人

来参加我们的

跟上停止杀手机器人运动的最新发展。

来参加我们的