Lavender数据处理系统在加沙的使用

照片由 穆罕默德·易卜拉欣 

Stop Killer Robots 继续发现有关以色列在加沙地带使用目标推荐系统的报道，从法律、道德和人道主义角度来看，令人深感担忧。虽然薰衣草系统，像 哈布索拉/福音 系统不是自主武器，两者都引起了人们对在冲突中越来越多地使用人工智能、自动化偏见、数字非人化以及在使用武力时失去人类控制的严重担忧。 

报告说 薰衣草 以色列国防军使用它来生成人体目标令人深感不安。据报道，该系统根据行为“特征”（包括通信模式、社交媒体连接和频繁更改地址）提出针对性建议。据 +972 消息来源称，“ 被发现具有多种不同犯罪特征的个人将达到很高的评级，从而自动成为潜在的暗杀目标。” 

薰衣草是一个数据处理系统，而不是自主武器，是否打击推荐目标的实际决定是由人类而不是机器单独做出和执行的。然而，该系统的使用表明了自主武器的关键问题，即 数字非人化 以及失去有意义的人类控制。 

保护平民是国际人道法（IHL）的核心原则，如果对个人的地位有疑问，则必须将其视为平民。 根据行为概况将加沙普通民众列为潜在目标的排名（误差幅度为 10%）将人类简化为数据点，并引起了人们对遵守国际人道法、侵犯人类尊严和数字非人化的严重担忧。

另外令人担忧的是“s哭泣地批准官员采用拉文德的杀戮名单，而不需要彻底检查机器做出这些选择的原因或检查它们所基于的原始情报数据”。在攻击 Lavender 推荐目标的决策中缺乏有意义的人为控制和参与，这表明对自动化系统的依赖存在令人担忧的趋势。 

Stop Killer Robots 认为，技术的开发和使用应该是为了促进和平、正义、人权、平等和对法律的尊重，而不是为了自主杀戮或进一步巩固或再现不平等和压迫。 

联合国秘书长、红十字国际委员会和 100 多个国家呼吁就自主武器系统制定法律文书。越来越多地使用具有相关自主程度的系统表明国际法迫切需要对武器系统的自主性做出明确的禁止和规定。

评论或采访请求应直接发送至 [电子邮件保护]