真实故事

你好！ 我是软件工程师劳拉。 我和我的伴侣以及我们的两只被宠坏的猫住在爱尔兰都柏林（尽管我们目前正试图在距离城市一小时车程的地方购买一栋有 170 年历史的房子，因为我们现在大部分时间都在远程工作）。 在工作和抵押文书工作之外，我目前花费大量时间阅读和学习，因为我正在兼职撰写硕士论文。

有针对性的广告、银行贷款审批、预测性警务……武器自主、自动化越来越成为我们生活的一部分。 你最担心什么类型的数字非人化，为什么？

我担心这一切的累积效应！ 最明显的问题是那些对个人产生巨大影响的系统——比如武器，以及任何与警务或司法相关​​的东西。

我认为最近的英国邮局丑闻就是一​​个很好的例子——Horizo​​n 计算机系统经常会显示在当地邮局收取的资金短缺，导致对当地邮局局长和员工采取法律行动。 整个事件被称为'英国近代史上最严重的误判“。

邮局和富士通方面肯定存在道德缺陷，但整个混乱的关键是，Horizo​​ns 系统似乎并不是为了让人们使用它来理解交易的方式而设计的。系统和纠正问题。 它从根本上削弱了当地邮递员的自主权以及她们以自己的方式理解世界的能力。 那是糟糕的软件设计。 他们一定觉得自己置身于卡夫卡的一个故事中。

现在每天，人们都被困在像这样的迷你卡夫卡式技术噩梦中，无论是让他们的虚拟考试监考软件工作，通过自动过滤器的丛林获得他们的工作申请，还是获得他们可能有权获得的好处。 我们不应该构建这样的软件。

你相信个人可以有所作为吗？

绝对——历史上到处都是真正有所作为的人——马丁·路德（95 篇论文）、罗莎·帕克斯、纳尔逊·曼德拉。 今天，我们有像 Greta Thunberg 这样的人，她为环保运动投入了大量精力； 和继续改变国际数据保护法的 Max Schrems 一样。 在我居住的爱尔兰，我们最近更改了非常严格的堕胎法律，这与 Savita Halappanavar 有很大关系，她在爱尔兰医院不幸去世，因为爱尔兰法律阻碍了她获得所需的护理。 Savita 的丈夫和家人都是非常勇敢的人，他们公开发表意见，这改变了爱尔兰历史的进程。

所有为竞选捐款、参加游行、组织活动、敲门或给我们的政治家写信的人——我们都同样重要。 我们有力量！

你是什​​么时候第一次了解杀手机器人的，你是怎么想的？

杀手机器人对我来说是一个非常私人的问题。 2017 年，当我在谷歌工作时，作为管理谷歌云基础设施团队的一员，我被要求做一些工作来支持 Project Maven，美国国防部自动分析无人机监控录像的项目。 我被要求参与一个项目，为其云平台获得更高的安全认证，以便在内部运行 Maven，而不是在国防部自己的机器上运行。

毫无疑问，Maven 是“杀伤链”工作：它分析镜头以生成可用于目标识别和选择的数据。 这不仅仅是道德中立的计算机视觉工作。 到 2020 年，美国陆军 将 Maven 放在灰鹰无人机上 自主检测威胁。 Maven 并不是在寻找明确的军事目标，例如坦克。 它正在寻找人员和车辆，包括民用车辆。

以冲突中的人为目标不是我们应该自动化的事情：它太重要、太复杂和依赖于上下文的问题，而且风险太高。

到目前为止，2020 年有些艰难。 什么给了你希望？

2020 年代肯定是有趣的时期！ 但实际上，这是给我希望的事情。 我们正处于一个不断变化的时代。 也许我们可以用更好的“正常”替换旧的“正常”。

为什么你是停止杀手机器人运动的一部分？

我是这场运动的一部分，因为作为一名技术专家，我有职业责任来发声。 软件擅长做日常工作，很不擅长做有任何歧义或灰色地带的工作。 不幸的是，Big Tech 经常夸大技术能力，从而导致伤害。 特斯拉将其汽车软件称为“Autopilot”就是一个很好的例子——它是一个非常复杂的巡航控制系统，但它被命名为好像是完全自动驾驶。 德国 和 加利福尼亚州 都要求特斯拉为产品使用不同的名称。

在任何类型的高风险工作中都需要格外小心地使用软件——这当然包括使用军事力量的决定。 有意义的人类控制需要始终处于最前沿。