Полностью автономное оружие будет решать – кто будет жить или умрет, без какого-либо вмешательства человека. Это выходит за все рамки морали. Поскольку это всего лишь машины, у них не будет качеств, присущих человеку, например, сострадания, но которые просто необходимы для принятия сложных этических решений.
США, Китай, Израиль, Южная Корея, Россия и Великобритания уже занимаются разработкой систем вооружений со значительным уровнем автоматизации таких важнейших функций, как выбор цели и ее атака. Если это не остановить сегодня, мир может погрузиться в дестабилизирующую гонку роботизированных вооружений.
Замена обычных войск бездушными машинами может сильно увеличить количество принятых решений о начале войны, что еще больше усилит бремя гражданских лиц от невзгод военных конфликтов. Использование полностью автономного оружия может привести к трагическим ошибкам с непредвиденными последствиями, которые могут усилить напряженность во всем мире.
Полностью автономному оружию не хватает человеческой рассудительности, необходимой для оценки необходимости нападения, а также разделения гражданских лиц и солдат противника, и соблюдения прочих основных принципов и законов войны. История показывает, что его использование не ограничивается только отдельными случаями.
Совершенно непонятно, будет ли кто-нибудь привлечен к ответственности за незаконные действия, совершенные или спровоцированные полностью автономным оружием, и если да, то кто? Программист, производитель, командир или сама машина? Отсутствие конкретных ответственных лиц очень сильно затруднит обеспечение правосудия, особенно для жертв.
Полностью автономное оружие может быть использовано в других обстоятельствах – вне вооруженного конфликта, например, для защиты границ или в работе правоохранительных органов. Его могут использовать для подавления протестов и поддержки режимов. Оружие, разрабатываемое как нелетальное, в определенных условиях все равно может привести к большому количеству смертей.
Необходимо сохранить значительный контроль человека над выбором целей и принятием решений о нападении путем запрета на разработку, производство и использование полностью автономного оружия. Должен быть введен законодательный запрет на национальных уровнях и заключены международные договора.
Все страны должны сформулировать свои взгляды на проблемы, вызванные использованием полностью автономного оружия, взять на себя обязательство заключить новый договор о его запрете и установить принцип значительного контроля человека над применением силы.
Все технологические компании и организации, а также отдельные лица, работающие над развитием искусственного интеллекта и робототехники, должны дать обязательство никогда не работать над развитием полностью автономного оружия.Stockholm International Peace Research Institute, November 2017. This one-year mapping study on autonomy in weapons systems by Vincent Boulanin and Maaike Verbruggen is SIPRI’s first report on the topic.
PAX, November 2017. This 22-page report by Frank Slijper of PAX looks at weapons systems with varying degrees of autonomy in the selection and engaging of targets.
PAX, November 2017. This 58-page report by Daan Kayser reviews European positions on various issues including the need for human control of weapons systems and the ban call.
