科技造福人类
Branka Marijan 是阻止杀手机器人运动的成员,也是加拿大非政府组织 Project Ploughshares 的高级研究员,她专注于新兴技术的安全影响。
由于 COVID-19 迫使国际社会扩大工具箱x 为了更有效地应对危机,人工智能 (AI) 公司和更广泛的科技行业正在 振臂 协助政府和公共卫生当局。 老牌公司和初创企业正在开发 早期检测, 执行数字接触者追踪, 3D打印面罩,甚至致力于 更好地检测胸部 X 光片中的感染. 这些令人难以置信的反应表明,“技术为善”,即创造和使用技术来改善人类,不仅仅是一个空洞的口号,或者至少可以更多。
与此同时,COVID-19 危机正在扩大和重新定义传统的国家安全概念以及什么构成有效准备。 事实上,这场大流行使人们更加关注在资源分配位置、开发哪些技术以及用于什么目的方面做出的选择。 在将人工智能应用到国家和全球安全方面时,这些类型的选择现在并将特别重要。
人工智能的一些安全和防御应用,可以自动化不同的任务并提高效率,并不是特别有问题。 然而,美国、俄罗斯、中国和韩国等国家也在大力投资于更加自主的武器系统。 对于 2021 财年,美国五角大楼已要求提供一些1.7十亿 用于研发支持人工智能的自主技术。
作为 阻止杀手机器人的运动 警告说,令人担忧的是新武器系统将在没有人为控制的情况下运行。 诸如选择目标和使用致命武力等关键功能可以由机器执行,而无需人工操作。 在不久的将来,人类的参与可能会完全消失——这是向未知的道德和法律领域的前所未有的发展。
然而,军队继续采用新兴技术。 在 2019年十二月,美国国防高级研究计划局(DARPA,五角大楼的国防研究机构)测试了 250 台机器人一起工作,以在虚假的城市环境中导航并协助一个小型步兵部队。 群测试虽然仍然由人类控制,但表明正在做的工作是在复杂环境中改进机器的实时信息收集和导航。 美国海军也有 测试 一个人工智能系统网络,其中 司令 只是下令开火。 即使有人工操作员似乎在监督系统,这种人工控制水平也是不够的。
其他国家也在致力于将自主技术整合到军事系统中。 去年, 土耳其 甚至声称它已经在叙利亚测试了一架自主无人机。 虽然未经证实 - 并且可能不准确 - 土耳其的声明强调需要更仔细地审查出于安全目的采用新技术的方式。 俄罗斯正在努力适应自动驾驶汽车技术并开发自动驾驶汽车 坦克. 毫无疑问,更多国家正在关注这些发展,并将研究重点放在类似技术上,并考虑现有技术的安全和国防应用。
人工智能技术的现实,以及我们在大流行应对期间所观察到的,都是多用途技术。 可以帮助我们导航道路的相同应用程序可用于跟踪人口移动。 虽然公司正在开发技术,但最终由国家和社会决定投资哪些技术以及支持哪些应用。 在人工智能的应用方面,完全自主武器的发展是迫切需要禁止的技术类型的一个明显例子。
现在是热衷于为其军队提供现代人工智能辅助和其他最先进技术的政府的时候了,以认真考虑他们希望优先考虑的能力类型,以确保其公民的安全——以及哪些边界不应被限制越过。 现在是优先考虑增强和拯救人类生命的技术的时候了。 这些选择对于更好地准备应对流行病和气候变化至关重要,这些全球威胁显然不能再被忽视。
如果本文引起您的共鸣,请查看“阻止杀手机器人运动”网站: www.stopkillerrobots.org 或加入对话 @bankiller机器人 #TeamHuman 和 #KeepCtrl。
原文章发表于 Medium.com.