изображение главного меню
AOAV IGw AWS FINAL 150ppi_LR

Основатели компании требуют действий ООН в отношении роботов-убийц

AOAV IGw AWS FINAL 150ppi_LR

Кампания по борьбе с роботами-убийцами призывает правительства прислушаться к Открой письмо подписано 126 основателями и директорами более 100 компаний, занимающихся робототехникой и искусственным интеллектом из 28 стран, с требованием принятия срочных мер для решения проблем полностью автономного оружия.

Выпущено при открытии крупная международная конференция по искусственному интеллекту (AI) в Мельбурне 21 августа письмо перечисляет многочисленные проблемы с полностью автономным оружием, также называемым летальными автономными системами оружия или роботами-убийцами. Он предупреждает, что это оружие может быть использовано «деспотами и террористами» и «взломано, чтобы вести себя нежелательным образом».

Основатели компании заявляют, что они «чувствуют себя особенно ответственными, поднимая эту тревогу», и предупреждают, что «нам не придется долго действовать», поскольку «как только этот ящик Пандоры откроется, его будет трудно закрыть». Они обращаются к штатам в Конвенция об обычном оружии (CCW), чтобы «защитить всех нас» от опасностей, исходящих от полностью автономного оружия, и предложить своим исследователям и инженерам техническую поддержку неустойчивому процессу CCW в отношении полностью автономного оружия.

Среди подписантов Элон Маск, основатель Tesla, SpaceX, OpenAI (США), Мустафа Сулейман, основатель Google DeepMind (Великобритания), и Юрген Шмидхубер, ведущий эксперт по глубокому обучению и основатель Nnaisense (Швейцария).

Эксперт по искусственному интеллекту Тоби уолш Университета Нового Южного Уэльса собраны подписи под письмом от основателей компаний, в которых «работают десятки тысяч исследователей, робототехников и инженеров» в Австралии, Канаде, Китае, Чехии, Дании, Эстонии, Финляндии, Франции, Германии. , Исландия, Индия, Ирландия, Италия, Япония, Латвия, Мексика, Нидерланды, Новая Зеландия, Норвегия, Польша, Россия, Сингапур, Южная Африка, Испания, Швейцария, Великобритания, Объединенные Арабские Эмираты и США.

Согласно Уолшу, письмо «Демонстрирует явную озабоченность и решительную поддержку этого со стороны индустрии робототехники и искусственного интеллекта».

Ведущий эксперт по глубокому обучению Йошуа Бенжио, основатель Element AI (Канада), сказал, что одобрил письмо, потому что «использование ИИ в автономном оружии подрывает мое чувство этики» и «может повредить дальнейшему развитию хороших приложений ИИ». Бенжио призвал международное сообщество подходить к автономному оружию так же, как к «другому морально неправильному оружию», такому как биологическое, химическое и ядерное оружие.

Другой подписант - один из выдающихся мировых исследователей искусственного интеллекта Стюарт Рассел, основатель Bayesian Logic Inc., который назвал договор о запрещении летального автономного оружия «жизненно важным для национальной и международной безопасности». Рассел предостерег от разработки и распространения «нового оружия массового уничтожения - в виде огромных скоплений смертоносных микродронов».

Подписавшие включают Райан Гариепи, основатель и главный технический директор Clearpath Robotics (Канада), которая была первая компания, одобрившая запрет на полностью автономное оружие три года назад. По словам Гариепи, «автономные системы вооружений находятся на пике разработки прямо сейчас и обладают вполне реальным потенциалом причинить значительный ущерб невинным людям наряду с глобальной нестабильностью».

A предыдущее открытое письмо, выпущенное в июле 2015 г. на последней Международной совместной конференции по искусственному интеллекту (IJCAI) назвал «военную гонку вооружений ИИ» «плохой идеей» и призвал запретить системы вооружений, которые «лишены значимого человеческого контроля». Письмо 2015 года подписали более 20,000 человек, в том числе более 3,100 исследователей искусственного интеллекта / робототехники.

В декабре 2016 года государства договорились официально оформить свои дискуссии по автономным системам смертоносного оружия в рамках Конвенции об обычных вооружениях (CCW). Группа правительственных экспертов (ГПЭ) должна была встретиться дважды в 2017 году, но финансовые проблемы привели к отмена первой встречи ГПЭ, который должен был открыться 21 августа.

Кампания по остановке роботов-убийц призывает государства использовать Группу правительственных экспертов по КНО для начала переговоров по новому протоколу КНО к концу 2018 года, который упреждающе запрещает полностью автономное оружие. Ожидается, что в заседании GGE в ООН в Женеве 90-13 ноября примут участие более 17 стран, а также ключевые агентства ООН, Международный комитет Красного Креста и Кампания по остановке роботов-убийц.

ОБНОВЛЕНИЕ: этот пост был обновлен 25 августа, чтобы отразить последнее количество подписантов открытого письма, которое изначально составляли 116 учредителей компании в 26 странах.

Для получения дополнительной информации см .:

На фото: робот Pepper сделан компанией Aldebaran Robotics (Франция), основатель которой Жером Монсо подписал письмо 2017 года. Пеппер показан на мероприятии, организованном Японской ассоциацией помощи и помощи в Токио в марте 2016 года для обсуждения кампании по остановке роботов-убийц.

Мария

Альтернативный текст изображения
Значок точек SKR

Остановите роботов-убийц

Присоединяйтесь к нам

Следите за последними достижениями в движении по борьбе с роботами-убийцами.

Присоединяйтесь к нам