Военная симуляция ВВС США беспилотника, управляемого искусственным интеллектом

Сообщения о том, что ВВС США смоделировали сценарий, в котором управляемый ИИ беспилотник решил убить человека-оператора, чтобы достичь цели миссии, вызывают глубокую обеспокоенность. Хотя ВВС США подтвердили, что это не было симуляцией ИИ, тем не менее это свидетельствует о насущной необходимости принятия международного закона об автономии в системах вооружений, чтобы обеспечить реальный контроль человека над применением силы.

Государствам еще предстоит адекватно отреагировать на разработку оружия с автономией и пока не удалось провести красную черту против убийства людей машинами. Отсутствие политических действий по этому вопросу приведет лишь к большим человеческим жертвам и усилению цифровой дегуманизации в конфликтах, охране правопорядка, пограничном контроле и других сферах жизни общества. Вред от искусственного интеллекта уже затрагивает маргинализированных людей во всем мире, поскольку системы распознавания лиц приводят к ошибочным арестовать в Соединенных Штатах, аавтоматизация системы льгот в Нидерландах, до слежка за палестинцами с помощью искусственного интеллекта. Именно эти сообщества, скорее всего, испытают на себе наиболее серьезные последствия новых технологий и систем вооружений.

Автономное оружие вызывает серьезные опасения с гуманитарной, правовой, технологической и этической точек зрения, а также с точки зрения безопасности. Как показывает этот военный сценарий, машины не «видят» мир так, как люди, автономное оружие будет принимать решения на основе данных, которые сводят людей к объектам — числам, которые необходимо обработать. Растущие опасения и опасения по поводу роли искусственного интеллекта и автоматизированного принятия решений в нашей жизни становятся все более распространенными в обществе. Государствам пора отреагировать на эту озабоченность, и хотя более 90 стран призвали к принятию юридического документа об автономии в системах вооружений, необходимы ощутимое политическое лидерство и действия.

Stop Killer Robots призывает государства использовать все доступные многосторонние форумы для обеспечения правовых гарантий. Пришло время перейти к переговорам по договору, который сохраняет человеческое достоинство и обеспечивает значимый человеческий контроль.

Все взоры и усилия теперь обращены на Генеральную Ассамблею Организации Объединенных Наций в октябре, где у государств будет возможность поддержать переговоры о новом международном праве, чтобы сохранить реальный человеческий контроль над применением силы и гарантировать, что мы не допустим убийства людей. на машине.