изображение главного меню
AOAV IGw AWS ФИНАЛ 150ppi_LR

Давос считает роботов-убийц

AOAV IGw AWS ФИНАЛ 150ppi_LR

Обеспокоенность по поводу полностью автономного оружия или «роботов-убийц» поднималась на Всемирном экономическом форуме 2015 года в Давосе, Швейцария, с различными публикациями и докладчиками, обращавшимися к этому вопросу. Это первый раз, когда на ежегодной встрече мировых лидеров, представляющих правительства, бизнес и гражданское общество, рассматриваются проблемы, создаваемые системами вооружений, которые выбирают цели и применяют силу без дальнейшего вмешательства человека.

В нескольких публикациях, выпущенных в преддверии Всемирного экономического форума 2015 года, рассматривалась проблема, в том числе в публикации Форума 2015 года. Глобальные риски отчет, который включает краткий раздел «искусственный интеллект - рост машин» (стр. 40). Согласно отчету, «несколько стран работают над разработкой летальных автономных систем оружия, которые могут оценивать информацию, выбирать цели и открывать огонь без вмешательства человека», что ставит «новые задачи для международного права и защиты мирных жителей». В отчете обнаруживается отсутствие ясности в отношении того, кто будет нести ответственность, если автономная система вооружений нарушает международное право, и отмечается, что «активная и ориентированная на будущее работа во многих областях необходима для противодействия тенденции технического прогресса опережать общественный контроль над государством». технология.'"

Эти выводы повторяются в публикации от 15 января. после опубликовано Форумом и профессором Стюартом Расселом из Калифорнийского университета в Беркли, подписавшим ранее в этом месяце Открой письмо призывая к исследованиям о том, как воспользоваться преимуществами и потенциалом искусственного интеллекта, «избегая при этом потенциальных ловушек». Рассел является соавтором приоритеты исследований меморандум, выпущенный вместе с открытым письмом, в котором среди других проблем, требующих изучения, перечислены вопросы, касающиеся автономного оружия.

На панели Всемирного экономического форума, посвященной тому, как достижения в области искусственного интеллекта, интеллектуальных датчиков и социальных технологий «изменят жизни» 22 января, Рассел предупредил, что полностью автономное оружие может полностью изменить характер войны, и спросил аудиторию: «Это направление мы хотим пойти? Я не совсем уверен."

Часовую дискуссию, состоящую из мужчин, модерировала ведущая г-жа Хироко Куния от имени Японской радиовещательной корпорации NHK.

Другой оратор на панели был Кен Ротисполнительный директор Смотреть по правам человека, который является соучредителем Кампании по борьбе с роботами-убийцами. Он обратился к юридическим, этическим проблемам и проблемам распространения оружия массового уничтожения и спросил, обладают ли машины «тонкостью суждения, позволяющей определять, кто является бойцом». Рот охарактеризовал «ключевое препятствие для войны» как «человеческое сочувствие» и выразил скептицизм по поводу того, что «лучшее программирование» может решить возникшие проблемы, предупредив, что «на карту поставлены моральные суждения».

Рот заметил, что для некоторых технологий «гораздо лучше держать джинна в бутылке», потому что «когда он выйдет, гораздо труднее вернуться обратно», приведя пример ядерного оружия. Он призвал к упреждающему запрету на полностью автономное оружие и описал положительный пример, установленный 20 лет назад Конвенция об обычном оружии когда страны превентивно запретили ослепляющие лазеры, потому что они сочли перспективу создания оружия, которое навсегда ослепит, ужасающей.

Одним из участников Всемирного экономического форума, который присутствовал на панели, был норвежский бизнесмен. Йохан Х. Андресен, председатель этического совета Норвежского нефтяного фонда. В интервью Norwegian Business daily DN (Dagens Næringsliv), Андресен сказал, что его беспокоит перспектива полностью автономного оружия. По рекомендации совета по этике Фонд отказался от инвестиций у компаний, занимающихся производством противопехотных наземных мин, кассетных боеприпасов и ядерного оружия. Когда его спросили, следует ли совету предлагать исключить производителей автономного оружия, Андресен сказал, что он надеется, что такое решение не потребуется, если усилия по упреждающему запрету этого оружия увенчаются успехом.

Для получения дополнительной информации:

Мария

Альтернативный текст изображения
Значок точек SKR

Остановите роботов-убийц

Присоединяйтесь к нам

Следите за последними достижениями в движении по борьбе с роботами-убийцами.

Присоединяйтесь к нам