Лауреат Нобелевской премии по физике 2024 года выразил обеспокоенность по поводу роботов-убийц
Джеффри Хинтон, «крестный отец искусственного интеллекта», поддержал призыв к принятию нового международного права, запрещающего и регулирующего автономные системы оружия.
Кампания «Остановим роботов-убийц» отмечает награждение 2024 Нобелевская премия по физике профессору Джеффри Э. Хинтону и Джону Дж. Хопфилду в знак признания их вклада в область искусственного интеллекта.
Профессор Хинтон был одним из первых экспертов в области ИИ, поддержавших призыв к новому международному праву, запрещающему и регулирующему автономные системы вооружения. В октябре 2013 года Хинтон одобрил открытое письмо из более чем 270 инженеров, компьютерных специалистов и экспертов по искусственному интеллекту, которые призвали к запрету систем оружия, которые принимают решение о применении насильственной силы автономно, без какого-либо контроля со стороны человека. В июле 2015 года Хинтон подписал вызов из почти 35,000 2017 экспертов по ИИ и технологиям, которые назвали гонку вооружений военного ИИ «плохой идеей» и призвали к превентивному запрету на автономное оружие, которое работает вне осмысленного контроля человека. В ноябре XNUMX года Хинтон присоединился к другим экспертам по ИИ призывая премьер-министра Канады Джастина Трюдо выступить против автономного оружия, утверждая, что его разработка и использование переходят «четкую моральную черту».
Опасения по поводу автономности в оружии со стороны экспертов по ИИ, включая Джеффри Э. Хинтона, должны быть учтены, чтобы вовремя избежать ряда технических и этических проблем, которые они поднимают. Поскольку становится все более очевидным, что искусственный интеллект и автоматизированное принятие решений будут играть ключевую роль в том, как мы живем как личности, как общества и как мировое сообщество, крайне важно установить правила того, как это применяется к применению силы. Наша кампания работала более десятилетия, чтобы обеспечить значимый человеческий контроль над применением силы, призывая к созданию нового международного права для регулирования автономности в системах оружия. Мы считаем, что установление правовых стандартов посредством создания договора имеет решающее значение для обеспечения мира и глобальной стабильности.
Мы увидели четкий и набирающий силу импульс к достижению нашей цели нового международного права по автономным системам оружия. В 2023 году наша коалиция из более чем 250 организаций гражданского общества в 70 странах успешно лоббировала принятие государствами первой в истории резолюции ООН по автономному оружию. Эта резолюция была принята подавляющим большинством государств и демонстрирует, что существует политическая воля к устранению рисков, создаваемых автономным оружием. Кроме того, за последние два года мы увидели проявление межрегиональной поддержки посредством ряда деклараций, принятых по автономному оружию, которые подчеркивают его правовые, этические, гуманитарные последствия и необходимость нового международного права.
За последние двенадцать месяцев увеличилось количество сообщений об использовании военного ИИ и оружия с автономными возможностями в продолжающихся международных конфликтах, включая Сектор Газа и Украина. Это имеет глубокие гуманитарные последствия. Принятие дегуманизации, нацеливания и убийства людей с помощью ИИ в военных контекстах недопустимо и будет иметь серьезные последствия для полиции, пограничного контроля и общества в целом. В настоящее время проходит 79-я Генеральная Ассамблея ООН, и у государств есть возможность ответить на призывы экспертов по ИИ и сократить разрыв между регулированием и технологическим развитием. Поддерживая резолюцию об автономном оружии, государства могут добиться существенного прогресса на пути к международному договору. Настало время для мирового сообщества действовать безотлагательно и продемонстрировать постоянное политическое лидерство в этом вопросе, чтобы гарантировать, что решения о жизни или смерти не будут делегированы машинам