Технооптимизм, права человека и роботы-убийцы ...

Роботы так давно в мире sci-fi, которую они не представляют как непосредственную угрозу в реальности. Но мы не говорим о тех гуманоидных роботах, которых вы видели в фильмах - мы говорим о реальных системах вооружения, которые запрограммированы на автономный выбор целей и убийство. В последнее время, наблюдая за взрывом эпиднадзора и «решений» искусственного интеллекта для COVID-19, мне кажется, что стремление к технооптимизму не принимает во внимание долгосрочное влияние, которое эти технологии в конечном итоге окажут. Это касается и должно касаться других молодых людей из-за последствий, которые это имеет для наших прав человека и нашего будущего. Реальность такова, что существование автономных систем оружия не будет ограничиваться использованием в зонах конфликтов, и наши опасения по поводу этого оружия не должны останавливаться на достигнутом, потому что в ближайшем будущем мы можем увидеть его в полицейских силах. Разработка и использование этого оружия не только составлять грубые нарушения прав человека, но также будут считаться чрезмерным, произвольным и ненужным применением силы.

WХотя полностью автономное оружие обсуждалось в контексте конфликта и гуманитарного разоружения в ООН (под термином летальное автономное оружие или АСОЛД), становится все более важным рассматривать разработку и использование автономного оружия в неконфликтных ситуациях. Для молодого участника кампании и правозащитника проблема роботов-убийц становится еще более актуальной, если учесть, как это оружие представляет огромную опасность для тех, кто присутствует на протестах. То есть, может быть, менее «убийственный», но столь же смертоносный. Поскольку гражданские и политические права продолжают подвергаться критике, а полномочия по наблюдению расширяются, важно, чтобы правительства действовали сейчас, чтобы не допустить, чтобы это оружие стало реальностью. «Несмертоносное» или «менее смертоносное» автономное оружие еще не существует, но они не за горами и именно нормализация этих технологий представляет самую большую угрозу для будущего наших прав человека.

Фото Алекса Раделича.

SТехнология дронов urveillance не нова, но ее можно применять в пандемия полиции означает, что нетрудно представить, как их перепрофилируют в «менее смертоносное» автономное оружие. В конце концов, США использовали беспилотники военного класса Predator для полетов городах в течение протестов, в то время как Израиль использовал беспилотные летательные аппараты для рассеивать слезоточивый газ над палестинскими демонстрантами. Значит, было бы невозможным представить это оружие как автономное, парящее над толпой протестующих, готовых разогнать химические вещества? Действительно, та же технология наблюдения, что и определяет физическое дистанцирование может помочь идентифицировать или предсказать определенные типы деятельность, оповещение автономного оружия о стрельбе по толпе с использованием несмертельных боеприпасов или слезоточивого газа. Дроны наблюдения, использующие звук могут быть снабжены звуками, которые дезориентируют и сбивают с толку, чтобы рассеять протестующих. И хотя в соответствии с Декларацией прав человека ООН каждый имеет право на мирный протест, рост возможностей наблюдения привел к тому, что протестующие стали более бдительными в отношении защиты своей личности от преследований со стороны правоохранительных органов.

Фото: Мишель Хендерсон.

Тем не менее, благодаря COVID-19 усиление маскировки гражданских лиц побудило разработчиков технологии распознавания лиц к скорректировать свой подход так что системы могут распознавать лица людей в масках. В результате многие протестующие, которые обычно носили маски, чтобы скрыть свою личность от властей, могут вскоре потерять способность «прятаться». Если бы «менее смертоносное» автономное оружие было экипирован с распознаванием лиц они могут не только представлять опасность для известных протестующих и других гражданских лиц, ранее протестовавших, но также могут быть пристрастный, ухудшение и кодификация расовое профилирование. Наконец, геотегирование - будь то с помощью телефонов с использованием определенных приложений, фотографий, видео или других носителей - может предоставить властям ценные данные о местоположении, которые позволяют им отслеживать местонахождение людей и людей, с которыми они контактируют. Такого рода технологии можно использовать, чтобы заставить людей оставаться в определенных местах, тем самым ограничивая их право на свободное передвижение, и даже может помешать им собираться в толпы для протеста. Это будет особенно важно для тех, кто живет на оккупированных или контролируемых территориях, где власти могут вынудить людей оставаться в пределах отведенных для них территорий.

NФормирование тенденции технологических решений вызывает озабоченность в будущем, потому что, хотя люди могут принять технологические инновации сегодняшнего дня, мы не готовы к их применению в полностью автономных системах вооружений завтрашнего дня. Риски для прав человека, связанные с разработкой и использованием этой технологии, делают эту проблему столь актуальной, и автономное оружие не следует рассматривать как проблему, изолированную от конфликтных ситуаций. У этого оружия есть все шансы стать частью вашего собственного «заднего двора», поскольку с годами правоохранительные органы становятся все более милитаризованными. Как молодой активист, я не хочу сталкиваться с этим оружием, когда протестую, - и никому другому тоже не следует сталкиваться с ним.

FВ конечном итоге автономное оружие делегировало бы решения о жизни и смерти машинам, программам и алгоритмам - пересекая этическую красную черту, нарушая закон, предназначенный для защиты гражданских лиц, угрожая правам человека и дестабилизируя глобальную безопасность. Хотите узнать больше о рисках для прав человека, связанных с полностью автономным оружием, и почему еще не поздно их остановить? Зарегистрируйтесь до 20 июля чтобы присоединиться к нам на RightsCon 30 июля 2020 года.

Фара Богани - руководитель проекта кампании «Остановить роботов-убийц», базирующаяся в Оттаве, Канада. Ранее она работала в офисе секретариата Amnesty International в Лондоне, Великобритания.

Оригинальная статья размещена на Medium.com.