изображение главного меню
Микроскопическое изображение вируса COVID-19, это серая круглая форма с красными пучками и меньшими оранжевыми шариками.

Технология на благо человечества

Бранка Мариджан - участник кампании «Остановить роботов-убийц» и старший научный сотрудник канадской неправительственной организации Project Plowshares, где она специализируется на вопросах безопасности новых технологий.

Поскольку COVID-19 заставляет международное сообщество расширять инструментарийx в его распоряжении для более эффективного противодействия кризису компании искусственного интеллекта (ИИ) и технологический сектор в целом. сплочение для оказания помощи правительствам и органам здравоохранения. Солидные компании и стартапы разрабатывают средства раннее выявлениевыполнение цифрового отслеживания контактовМаски для лица для 3D-печати, и даже работая над лучшее обнаружение инфекций при рентгенографии грудной клетки. Эти невероятные ответы показывают, что «технологии во благо», то есть создание и использование технологий для улучшения человечества, - это больше - или, по крайней мере, может быть больше, чем пустой лозунг.

В то же время кризис COVID-19 одновременно расширяет и переопределяет традиционные представления о национальной безопасности и о том, что составляет эффективную готовность. Эта пандемия фактически привлекла более пристальное внимание к выбору, который делается в отношении того, где распределяются ресурсы, какие технологии разрабатываются и для каких целей. Эти типы выбора имеют и будут особенно важны, когда речь идет о приложениях ИИ для национальной и глобальной безопасности.

Красные круги разного размера на карте Европы, Африки, Северной и Южной Америки показывают, где распространился COVID-19.

Некоторые приложения ИИ для обеспечения безопасности и защиты, которые автоматизируют различные задачи и повышают эффективность, не вызывают особых проблем. Однако такие страны, как США, Россия, Китай и Южная Корея, также вкладывают значительные средства во все более автономные системы вооружений. На 2021 финансовый год Пентагон США запросил около $1.7 млрд штук.  для исследования и разработки автономных технологий на базе искусственного интеллекта.

Как Кампания, чтобы остановить роботов-убийц предупреждает, обеспокоенность заключается в том, что новые системы вооружений будут работать без реального контроля со стороны человека. Такие критически важные функции, как выбор целей и применение смертоносной силы, могли выполняться машинами без особого руководства со стороны людей-операторов. В ближайшем будущем человеческое участие может быть полностью исключено - беспрецедентный шаг на неизведанную этическую и юридическую территорию.

Мэри Уэрхэм, координатор кампании по борьбе с роботами-убийцами, подчеркивает точку зрения на пресс-конференции ООН в Нью-Йорке в 2019 году.

Мэри Уэрхэм, координатор кампании по борьбе с роботами-убийцами, подчеркнула свою точку зрения на пресс-конференции ООН в Нью-Йорке в 2019 году. Другими участниками дискуссии являются Лиз О'Салливан, технический работник и эксперт по конфиденциальности, лауреат Нобелевской премии мира Джоди Уильямс. Фото: Ари Безер

Тем не менее, военные продолжают использовать новейшие технологии. В Декабрь 2019Агентство перспективных исследовательских проектов Министерства обороны США (DARPA, подразделение оборонных исследований Пентагона) протестировало рой из 250 роботов, работающих вместе, чтобы перемещаться по фальшивой городской среде и помогать небольшому пехотному отряду. Тест роя, который все еще контролировался людьми, показал, что работа ведется по улучшению сбора информации в реальном времени и навигации машин в сложной среде. ВМС США также проверенный сеть систем ИИ, где командующий офицер просто отдал приказ стрелять. Этот уровень человеческого контроля недостаточен, даже если есть человек-оператор, который, по-видимому, наблюдает за системой.

Другие страны также работают над интеграцией автономных технологий в военные системы. В прошлом году, Турция даже утверждал, что испытал автономный дрон в Сирии. Несмотря на то, что это непроверенное и, вероятно, неточное, заявление Турции подчеркивает необходимость более тщательного изучения того, как новые технологии используются в целях безопасности. Россия работает над адаптацией технологий автономных транспортных средств и разработкой автономных транспортных средств. танки. Несомненно, многие другие страны следят за этими разработками и сосредотачивают свои исследовательские усилия на аналогичных технологиях, а также рассматривают возможности применения существующих технологий в сфере безопасности и защиты.

Реальность технологий искусственного интеллекта и многое из того, что мы наблюдаем во время реагирования на пандемию, заключается в том, что это многоцелевые технологии. Те же приложения, которые могут помочь нам ориентироваться на дорогах, можно использовать для отслеживания перемещений населения. Пока компании разрабатывают технологию, в конечном итоге страны и общества решают, в какие технологии инвестировать и какие приложения поддерживать. Когда дело доходит до применения ИИ, разработка полностью автономного оружия является наглядным примером технологии, которую необходимо срочно запретить.

Неизвестный человек в белом комбинезоне дезинфицирует общественное место

Это время для правительств, стремящихся обеспечить свои вооруженные силы современными технологиями с использованием искусственного интеллекта и другими передовыми технологиями, чтобы серьезно рассмотреть типы возможностей, которые они хотят сделать в первую очередь для обеспечения безопасности своих граждан - и какие границы не должны соблюдаться. пересеклись. И сейчас самое время сделать приоритетными технологии, которые улучшают и спасают человеческие жизни. Этот выбор будет иметь решающее значение для того, чтобы лучше подготовиться к борьбе с пандемиями и изменением климата, глобальными угрозами, которые, очевидно, больше нельзя игнорировать.

Бранка Мариджан выступает на True North 2019 с текстом Tech for the Good of Humanity справа от изображения

Бранка Мариджан выступает на True North 2019.

Если эта статья находит отклик у вас, посетите веб-сайт Campaign to Stop Killer Robots: www.stopkillerrobots.org или присоединяйтесь к разговору @bankillerrobots #TeamHuman и #KeepCtrl.


Оригинальная статья размещена на Medium.com.

Бранка Мариян

Альтернативный текст изображения
Значок точек SKR

Остановите роботов-убийц

Присоединяйтесь к нам

Следите за последними достижениями в движении по борьбе с роботами-убийцами.

Присоединяйтесь к нам