Технология на благо человечества
Бранка Мариджан - участник кампании «Остановить роботов-убийц» и старший научный сотрудник канадской неправительственной организации Project Plowshares, где она специализируется на вопросах безопасности новых технологий.
Поскольку COVID-19 заставляет международное сообщество расширять инструментарийx в его распоряжении для более эффективного противодействия кризису компании искусственного интеллекта (ИИ) и технологический сектор в целом. сплочение для оказания помощи правительствам и органам здравоохранения. Солидные компании и стартапы разрабатывают средства раннее выявление, выполнение цифрового отслеживания контактов, Маски для лица для 3D-печати, и даже работая над лучшее обнаружение инфекций при рентгенографии грудной клетки. Эти невероятные ответы показывают, что «технологии во благо», то есть создание и использование технологий для улучшения человечества, - это больше - или, по крайней мере, может быть больше, чем пустой лозунг.
В то же время кризис COVID-19 одновременно расширяет и переопределяет традиционные представления о национальной безопасности и о том, что составляет эффективную готовность. Эта пандемия фактически привлекла более пристальное внимание к выбору, который делается в отношении того, где распределяются ресурсы, какие технологии разрабатываются и для каких целей. Эти типы выбора имеют и будут особенно важны, когда речь идет о приложениях ИИ для национальной и глобальной безопасности.
Некоторые приложения ИИ для обеспечения безопасности и защиты, которые автоматизируют различные задачи и повышают эффективность, не вызывают особых проблем. Однако такие страны, как США, Россия, Китай и Южная Корея, также вкладывают значительные средства во все более автономные системы вооружений. На 2021 финансовый год Пентагон США запросил около $1.7 млрд штук. для исследования и разработки автономных технологий на базе искусственного интеллекта.
Как Кампания, чтобы остановить роботов-убийц предупреждает, обеспокоенность заключается в том, что новые системы вооружений будут работать без реального контроля со стороны человека. Такие критически важные функции, как выбор целей и применение смертоносной силы, могли выполняться машинами без особого руководства со стороны людей-операторов. В ближайшем будущем человеческое участие может быть полностью исключено - беспрецедентный шаг на неизведанную этическую и юридическую территорию.
Тем не менее, военные продолжают использовать новейшие технологии. В Декабрь 2019Агентство перспективных исследовательских проектов Министерства обороны США (DARPA, подразделение оборонных исследований Пентагона) протестировало рой из 250 роботов, работающих вместе, чтобы перемещаться по фальшивой городской среде и помогать небольшому пехотному отряду. Тест роя, который все еще контролировался людьми, показал, что работа ведется по улучшению сбора информации в реальном времени и навигации машин в сложной среде. ВМС США также проверенный сеть систем ИИ, где командующий офицер просто отдал приказ стрелять. Этот уровень человеческого контроля недостаточен, даже если есть человек-оператор, который, по-видимому, наблюдает за системой.
Другие страны также работают над интеграцией автономных технологий в военные системы. В прошлом году, Турция даже утверждал, что испытал автономный дрон в Сирии. Несмотря на то, что это непроверенное и, вероятно, неточное, заявление Турции подчеркивает необходимость более тщательного изучения того, как новые технологии используются в целях безопасности. Россия работает над адаптацией технологий автономных транспортных средств и разработкой автономных транспортных средств. танки. Несомненно, многие другие страны следят за этими разработками и сосредотачивают свои исследовательские усилия на аналогичных технологиях, а также рассматривают возможности применения существующих технологий в сфере безопасности и защиты.
Реальность технологий искусственного интеллекта и многое из того, что мы наблюдаем во время реагирования на пандемию, заключается в том, что это многоцелевые технологии. Те же приложения, которые могут помочь нам ориентироваться на дорогах, можно использовать для отслеживания перемещений населения. Пока компании разрабатывают технологию, в конечном итоге страны и общества решают, в какие технологии инвестировать и какие приложения поддерживать. Когда дело доходит до применения ИИ, разработка полностью автономного оружия является наглядным примером технологии, которую необходимо срочно запретить.
Это время для правительств, стремящихся обеспечить свои вооруженные силы современными технологиями с использованием искусственного интеллекта и другими передовыми технологиями, чтобы серьезно рассмотреть типы возможностей, которые они хотят сделать в первую очередь для обеспечения безопасности своих граждан - и какие границы не должны соблюдаться. пересеклись. И сейчас самое время сделать приоритетными технологии, которые улучшают и спасают человеческие жизни. Этот выбор будет иметь решающее значение для того, чтобы лучше подготовиться к борьбе с пандемиями и изменением климата, глобальными угрозами, которые, очевидно, больше нельзя игнорировать.
Если эта статья находит отклик у вас, посетите веб-сайт Campaign to Stop Killer Robots: www.stopkillerrobots.org или присоединяйтесь к разговору @bankillerrobots #TeamHuman и #KeepCtrl.
Оригинальная статья размещена на Medium.com.