Пять причин, по которым миллениалы должны запретить роботов-убийц

Однако, несмотря на нашиceptics, мы наблюдаем рост рабочей силы, управляемой миллениалами, которые вскоре станут международными лидерами миллениалов. Это демографическое изменение в значительной степени повлияет на то, какие вопросы привлекают наибольшее внимание. Проще говоря, мы - будущие лица, принимающие решения в нашей стране - и то, что мы говорим, имеет значение.

Одна из самых серьезных проблем, с которыми сталкиваются все международные лидеры, - это обеспечение безопасности своих граждан. Это включает в себя охрану местных сообществ, охрану национальных границ и участие в международной войне.

Все чаще меньшинство стран начинает финансировать разработку полностью автономного оружия, также известного как «роботы-убийцы»; системы, созданные для выбора целей и убийств, свободных от человеческого контроля. Роботы-убийцы представляют значительную опасность для человечества. Вот пять причин, по которым миллениалы должны запретить роботов-убийц.

1. Роботы-убийцы рассчитывают - они не думают

Действия роботов-убийц будут определяться цифрами. Полностью автономное оружие на самом базовом уровне будет машинами с процессами. В отличие от принятия решений в режиме реального времени, участие роботов в полицейской службе или войне означает действия на основе заранее установленных алгоритмов, вроде рабочего стола вашей семьи, который постоянно нуждается в обновлении. Эти алгоритмы помогают радиолокационной системе компьютера исследовать свое окружение, чтобы определить, находится ли профиль цели в его середине.

Но отражающего механизма нет. Роботы-убийцы будут работать по «процессу анализа-сенсора-силы», при котором машина собирает данные о внешнем источнике, анализирует источник на основе его внутреннего программирования и применяет силу, если выполняются условия для этого (подробнее см. www.article36.org). Однако машинное обучение в отношении анализа данных остается неясным, что усложняет эту проблему. Это ставит под сомнение этику кодексов, которые программируют систему на уничтожение.

2. Алгоритмы роботов-убийц по своей сути расистские

Мы все слышали это раньше - миллениалы тоже чувствительный. Движущей силой этого недоразумения является то, насколько молодое поколение считает нормальное поведение неправильным.

Наш подход не идеален. В конце концов, мы также являемся поколением, которое ел стручки приливов. Однако само собой разумеется, что миллениалы стремятся к равенству среди уязвимых групп, которые сталкиваются с системной дискриминацией, включая женщин, цветных людей, сообщества ЛГБТК +, людей, работающих с минимальной заработной платой, и различные религиозные группы.

Роботы-убийцы бросают вызов этим усилиям с помощью заранее установленных алгоритмов, которые определяют цель уничтожения. Эти алгоритмы скрыты со своими собственными предубеждениями, которые диктуют производство оборудования. Робот, в отличие от человека, не может знают кто такой конкретный человек или чем он занимается. Скорее они сканируют факторы идентификации, которые соответствуют критериям, запрограммированным в их операционной системе. Это программирование будет вынуждено использовать такие характеристики, как цвет кожи, структура костей и отметины на лице, местоположение или образец поведения. Это открывает путь к потенциальной неудаче, когда робот должен различать солдат и гражданских лиц, которые выглядят одинаково, но имеют совершенно разные мотивы.

3. Роботы-убийцы тоже ошибаются

Мы все были там, миллениалы. Вы идете открывать свой ноутбук на утреннем уроке и обнаруживаете, что в системе произошел сбой. Ваша школьная работа закончилась, и жизнь, которую вы знаете, закончилась.

Аппаратные сбои - это «редкое явление». Они случаются только время от времени, но неизбежно найдут вас. Мы знаем это, потому что оборудование несовершенно, несмотря на уровень специальной подготовки инженеров даже самых сложных MacBook. Однако по сравнению с роботом-убийцей система MacBook довольно проста. Опасность полностью автономного оружия заключается в том, что робототехник, инженер или программист несут ответственность за конечный продукт. Если мы не выяснили, как создать простой ноутбук без сбоев, как нам объяснить безупречную работу машины в ситуации, когда ставки более важны, чем ученики в классе?

4. Роботы-убийцы способствуют нестабильности

Один из основных аргументов в пользу участия в войне кружит вокруг себя. Ценность политической и экономической выгоды имеет первостепенное значение в этой дискуссии. Мы знаем все о личной выгоде, миллениалы! Это как когда взрослые называют нас эгоистами.

Рост числа роботов-убийц продвигается вокруг идеи о том, что гражданам больше не придется участвовать в физической войне, что делает войну более точной и сводит к минимуму или исключает человеческие жертвы из уравнения. Но это не совсем так.

Есть много вопросов о роботах-убийцах, на которые еще предстоит ответить даже самым искушенным инженерам, робототехникам и законодателям. Существует очень мало свидетельств того, что автономное оружие окажет положительное влияние на гражданское население. Фактически, гражданские лица в раздираемых войной странах, вероятно, будут подвергаться большему риску быть ошибочно обозначенными как цели из-за сходства с комбатантами по внешнему виду. Рассмотрим, например, боевую форму ИГИЛ с черными масками для лица, закрывающими все, кроме глаз. Это представляет опасность для находящихся поблизости женщин, носящих черные никаб или паранджу. Кроме того, это подвергает опасности находящихся поблизости детей. У мирных жителей стран, использующих роботов-убийц, также есть повод для беспокойства. Например, если будет разработано и применено полностью автономное оружие, оно теоретически может быть использовано или заменено внутренней системой охраны правопорядка. Это ставит уязвимые сообщества, которые сталкиваются с чрезмерным надзором или насилием со стороны полиции, риску подвергнуться наблюдению со стороны роботизированных полицейских сил. Как мы можем ожидать, что полностью автономное оружие ответит на вызов службы экстренной помощи, который мало описывает личность преступника? Можем ли мы ожидать, что робот знает, как справиться с непредвиденной атакой, если он должен идентифицировать цель в режиме реального времени?

Такие вопросы остаются без ответа. Короче говоря, мы слепо разрабатываем машины.

5. Роботы-убийцы обесценивают жизнь

Не секрет, что проблемы, стоящие перед долгосрочным благополучием миллениалов, уникальны по сравнению с глобальными проблемами прошлых поколений. Это не для того, чтобы избавиться от последствий прошлых мировых трагедий. В конце концов, ни один миллениал не справится с масштабной экономической депрессией. Такое избирательное право просто не то, что ищут наши подписчики в Instagram.

Однако, в отличие от наших предшественников, миллениалы сталкиваются с глобальной проблемой, которая полностью не зависит от чьих-либо рук: изменение климата. Без коллективной приверженности всех участников, даже таких мелких, как индивидуальные повседневные привычки, крупномасштабной производственной практике транснациональных корпораций, стихийные бедствия в конечном итоге уничтожат нас. Конец человечества будет безличным - просто результатом накопления вредных ископаемых видов топлива, токсичных отходов и полного неуважения к средам обитания различных видов.

В этом свете мы начинаем видеть много параллелей между последствиями изменения климата и роботами-убийцами. Изменение климата, как и робот, не признает человека как сущность. Человек - это маленький винтик в большой системе, которую изменение климата стремится разрушить. Он не учитывает исходы посторонних на своем пути. Точно так же роботы-убийцы распознают цель не как человека, а как объект для поражения. Его общая миссия не учитывает убийство как важное событие, а скорее завершение задачи. Все сводится к тому, миллениалы, если мы хотим, чтобы солдаты, будь то машины или люди, понимали значение жизни. Мы должны ожидать такого же прилежного поведения, как и от полиции или вооруженных сил, получивших от государства право положить конец жизни человека.

Это довольно просто, миллениалы. Роботы-убийцы представляют больше риска, чем победы. Роль технологий заключалась не в том, чтобы заменить нас, а в том, чтобы помогать нам в повседневных задачах. Нам нужно взглянуть на обстоятельства и спросить себя, является ли это миром, в котором мы хотим жить.

Изменения в наших силах. Давайте просто убедимся, что мы придем вовремя, чтобы увидеть, как это произойдет.

Войти stopkillerrobots.org чтобы узнать больше о роботах-убийцах и о том, что вы можете с ними поделать. #TeamHuman

Кэролайн Фокс стажировалась в Mines Action Canada в качестве помощника по коммуникациям в кампании по остановке роботов-убийц в период с сентября по декабрь 2019 года, во время учебы в аспирантуре Оттавского университета.

Оригинальная статья размещена на Medium.com.