English
Arabic
Chinese (Simplified)
English
French
Russian
Spanish
Автономное оружие и операционный риск
В этом отчете исследуются риски в будущем автономном оружии, которое будет выбирать собственные цели, и возможность катастрофических аварий.
Автоматизация возрастает в широком спектре военных систем, включая будущее оружие. В ответ все большее количество голосов призывает к срочному обсуждению соответствующей роли принятия решений человеком и машиной в применении смертоносной силы. Проект этической автономии Центра новой американской безопасности исследует правовые, моральные, этические и политические вопросы, связанные с автономным оружием - оружием, которое само выбирает и поражает цели.
Этот документ призван помочь специалистам в области обороны ясно и объективно подумать о возможных рисках, связанных с автономным оружием. Автономного оружия обычно не существует, и его военные издержки и выгоды можно спекулировать, но еще не ясно. Однако ясно то, что они поднимают новые вопросы о риске. Суть автономии заключается в том, чтобы делегировать задачу, которую ранее выполнял человек, машине. Это поднимает важный вопрос о том, как сохранить эффективный человеческий контроль над поведением машины и рисками - как вероятностью, так и последствиями - связанных с потерей контроля.
Оригинальную публикацию можно найти здесь.
Рассмотрение ключевых элементов, необходимых для значимого человеческого контроля, должно стать отправной точкой для любой оценки развивающихся технологий в контексте автономных систем оружия.
