Роботы в эпоху цифрового наблюдения, цифровое наблюдение в эпоху роботов

Статья Мэтью Гуарилья, политический аналитик, Electronic Frontier Foundation

Ваша информация больше не принадлежит вам.

Она ежесекундно собирается вашим мобильным телефоном, вашим компьютером, микрофоном в вашем цифровом динамике, камерой слежения в вашем офисном здании, автоматическим считывателем номерных знаков, которого вы никогда не замечали на перекрестке, — и всеми он где-то хранится. Но все чаще сборщик и хранитель данных о вашем местонахождении, ваших покупках, вашей жизни также больше не является единственным владельцем этой информации. Информационный ландшафт — это адский и вызывающий паранойю массив обмена данными. Компании продают вашу информацию на огромном рынок брокеров данных. Полиция собирает информацию от потребительских компаний, которыми вы пользуетесь каждый день, с помощью простых запросов, слишком широкие гарантииили соглашения об обмене данными. Компании с выгодными контрактами с правоохранительными органами все чаще предоставлен доступ к правительственным данным с обещанием использования алгоритмов для поиска невидимых закономерностей в уже искаженные коллекции криминальной статистики.

Как общество, мы уже видим последствия этих затруднений. Брокеры данных приобрели данные геолокации мусульманских пользователей приложения для знакомств и молитв и продал его американским военным подрядчикам. Существует множество опасений, что частные компании, поставляющие автоматические считыватели номерных знаков как полицейским управлениям, так и частным ассоциациям соседей, могут использовать всю их сеть, чтобы помочь штатам преследовать в судебном порядке лиц, ищущих аборт. Полиция может даже запросить экстренный доступ к коммерческим домашним камерам наблюдения. без ордера или согласия пользователя обратившись напрямую в компанию.

Даже домашние устройства, такие как холодильники все чаще становятся «умными» и оснащаются микрофонами и камерами, собирающими данные. Достаточно плохо, что теперь нам, возможно, придется жить в страхе, что наш холодильник следить за тем, что мы едим и продавать эти данные рекламодателям продуктов питания, но в 2018 году мы также слышали новости о том, что спецслужбы в США и Великобритании способны взять под контроль систему распознавания голоса в умных телевизорах.

Чем чаще частные серверы хранения данных крупных компаний, таких как Amazon и Google, служат хранилищем улик для полицейских управлений и других правоохранительных органов, тем больше вероятность того, что ваши данные будут тщательно изучены в ходе уголовных расследований. Новые, но все более популярные варранты, такие как Геозоны или ордера на обратный поиск по ключевым словам означает, что вместо того, чтобы запрашивать информацию, относящуюся к конкретному подозреваемому, полиция отправляет компаниям запросы на получение данных о любом, чей мобильный телефон оказался поблизости от места происшествия, или о том, что любой, кто искал в Google адрес магазина, который позже был ограблен может стать главным подозреваемым.

Как будто этой ядовитой смеси обмена данными, правоохранительных органов и возможности насилия и ареста недостаточно, добавьте новый элемент: робототехнику. Роботы и дроны, независимо от того, автономные они или управляемые дистанционно, — это машины, которые собирают данные и работают с ними. Как эти новые движущиеся и летающие информационные машины будут взаимодействовать с ландшафтом, уже созданным для того, чтобы лишить людей их частной жизни? Какие новые опасения они вызовут по мере того, как они будут все чаще использоваться в мире, где данные потребителей и правоохранительных органов настолько переплетены?

Начнем с того, где мы находимся в настоящий момент. Беспокойство по поводу использования полицией роботов и дронов вызвано не просмотром слишком большого количества научно-фантастических фильмов. Вам не нужно быть убежденным, что Поглощение Skynet неизбежно для того, чтобы бояться недалекого будущего, когда правоохранительные органы охотно используют роботов или полагаются на данные, собранные роботами. Для тех, кто внимательно следит за полицейскими управлениями и рынками потребительских технологий, это не сенсационное опасение. Тоже не через несколько лет. Это не гипотетически. Это здесь.

Дистанционно управляемые дроны закупаются в больших количествах полицейскими управлениями в целях «ситуационной осведомленности” или получивший название “fмножители силы». Внутри домов компании стремятся продать вас дронов получайте инвестиции роботы, вооруженные микрофонами и камерами которые собирают данные о планировке вашего дома, чтобы лучше патрулировать ваше жилое пространство. В настоящее время как полицейские управления, так и частные организации внедряют автономных роботов. поиск «подозрительного поведения,», собирая данные, или просто действуя как вращающиеся кнопки «ПОМОЩЬ».

Несмотря на то, что роботы уже патрулируют наш улицы, парки, торговые центры и продуктовые магазины, мы должны бороться с сложные способы, которыми они влияют на наши гражданские свободы. Собирая огромные объемы данных или узаконивая другие масштабные операции наблюдения, полагаясь на эти данные для работы, широкое использование роботов и дронов представляет собой новый фронт в войне за конфиденциальность. И это даже не начало царапать поверхность того, что происходит с полицией или частными лицами. Рука эти роботы.

Роботы, которые помогают в наблюдении

Хотя они все еще редки, роботы часто представляют полицию или частные организации, надеющиеся передать часть патрулирования машинам с преимуществом новизны. Пока мало кто знает, каковы их возможности и какие данные они собирают.

Возьмем, к примеру, роботов Knightscope, автономные передвижные машины, которые уже используются во всем мире для патрулирования парков, торговых центров и гаражей. В то время как компания считает важным говорить о хорошей прессе, которую роботы создают благодаря селфи и упоминания в СМИ, более важным элементом является их способность собирать огромное количество данных. Помимо видео и аудио, роботы также способны считывать номерные знаки и оснащены беспроводной технологией, «способной идентифицировать смартфоны в пределах своего диапазона до MAC- и IP-адресов».

«Когда устройство, излучающее сигнал Wi-Fi, проходит в радиусе почти 500 футов от робота», — однажды объяснила компания на своем сайте. Блог, «с этого устройства собирается оперативная информация, включая такую ​​информацию, как: где, когда, расстояние между роботом и устройством, продолжительность пребывания устройства в этом районе и сколько раз оно было обнаружено на месте в последнее время».

Правда в том, что когда автономные роботы или даже автономные транспортные средства должны путешествовать по миру, они должны полагаться на бесчисленное количество камер и датчиков, чтобы убедиться, что они ни во что не врежутся и никому не причинят вреда. В некоторых случаях власти прямо используют эти датчики для наблюдения. Вот почему Министерство внутренней безопасности в настоящее время рассматривая возможность развертывания роботов-собак lоснащен датчиками для патрулирования отдаленных участков американо-мексиканской границы в рамках гораздо более крупной инфраструктуры пограничного наблюдения. Но в других случаях датчики и камеры, обеспечивающие автономное передвижение, стали частью аппарата полицейского наблюдения как некая счастливая случайность.

Мы часто говорим, что если вы соберете достаточно данных о людях, рано или поздно к ним придет полиция. Это, безусловно, относится к автономным автомобилям, которые способны путешествовать по городам, собирая кадры с разных ракурсов, как передвижная камера наблюдения. Это относится и к самоуправляемым автомобилям, которые в настоящее время курсируют по улицам Сан-Франциско. Репортаж середины 2022 года показал, что полицейское управление Сан-Франциско уже запросило кадры, снятые с этих автомобилей».несколько раз.

Как будто парк движущихся камер с неисчислимым количеством видеоматериалов, хранящихся на серверах, доступных для полиции, не был достаточным кошмаром для конфиденциальности, что произойдет, когда все кадры с автономных машин станут доступными для поиска с помощью биометрической аналитики? Мы не за горами. Tesla уже экспериментировала с распознаванием лиц. внутри и внешнюю своих транспортных средств.

Будь то беспилотный автомобиль, катящийся по окрестностям, или патрульный робот, регистрирующий присутствие вашего телефона в парке, одним из преимуществ роботов является их доступ к людям, не вызывающий подозрений, которые полиция, возможно, не сможет получить. Это одна из основных проблем, связанных с коммерческой продажей бытовых дронов и роботов. Что происходит, если полиция хочет обыскать дом человека и вместо того, чтобы предъявлять ордер домовладельцу, она предъявляет его компании в обмен на удаленный доступ к домашнему дрону или роботу? Подобные бытовые устройства могут представить совершенно новый сценарий, в котором полиция может обыскивать дома, даже не входя в них, и потенциально без компаний, сообщающих вам, что ваше устройство было конфисковано.

Рост робототехники не происходит одновременно с экспоненциальным ростом цифрового наблюдения. Они неразрывно связаны. Это означает, что роботы не только способствуют разрушению вашей частной жизни, но и огромное количество данных, собираемых о вас, также является главным фактором расширения использования полицейских и коммерческих роботов.

Наблюдение, которое помогает роботам

Мы видели, как роботы помогают проекту массовой слежки, осуществляемому обеими компаниями, государственными учреждениями и двумя, работающими в тандеме. Вопрос на ближайшие 10 лет будет заключаться в следующем: что роботы, дроны и операторы дронов смогут делать с таким объемом информации?

Уже сейчас ясно, что автономность устройств зависит от огромного объема данных. В дополнение к датчикам, которые, например, позволяют роботу избежать столкновения со стеной, потребительские роботы, предназначенные для обхода вашего дома, также должны цифровая карта этого дома.Только время покажет, как и когда полиция будет запрашивать доступ к этим данным у компаний, которые их хранят.

Поскольку полиция собирает так много информации о людях и потенциально имеет доступ ко всем данным, которые собирают компании, только время покажет, как эти знания повлияют на использование полицией даже дистанционно управляемых дронов и роботов. В Чула-Виста, штат Калифорния, полиция проводит пилотную программу, в рамках которой дистанционно управляемые БПЛА (беспилотные воздушные системы) отвечают на звонки службы экстренной помощи. На данный момент эта программа зависит от людей, активно звонящих в службы экстренного реагирования, но что произойдет, если аналогичная программа полагается на наблюдение для отправки флота автономных дронов, больше не привязанных к обученным операторам? Такие программы могут быть намного ближе, чем вы думаете.

ShotSpotter, компания, которая устанавливает мощные микрофоны в надежде обнаружить и триангулировать выстрелы, чтобы предупредить полицию. уже сказали, что объединятся с компанией по производству беспилотных летательных аппаратов для отправки автономных дронов для автоматического полета к предполагаемому месту стрельбы. Отчеты поставили под сомнение насколько точно Этот тип технологии вызывает опасения, что дроны, а также вооруженная полиция могут роиться в районе только для того, чтобы найти людей в непосредственной близости от автомобиля или фейерверка. Технология наблюдения, автоматически отправляющая дроны на место происшествия, также предлагает нам подумать о следующем сценарии: как скоро полиция захочет вооружить эти дроны?

Пересеченная непреодолимая черта: вооруженные роботы

Предложения по вооруженным роботам, особенно вооруженным роботам, управляемым роботами, в ответ на кризисные ситуации или оповещения, предоставляемые технологиями наблюдения, появляются каждый день. В 2022 году Axon пришлось отказаться от плана по развертыванию дистанционно управляемых дронов, вооруженных электрошокерами, в качестве решения проблемы стрельбы в школах, когда большая часть совета по этике ушла в отставку в результате предложения. Учитывая рост предлагаемых видов использования автономные системы оружия по всему миру, позволяя оружие – будь то оружие, электрошокеры или бомбы, на дистанционно управляемых роботах и ​​дронах может быть просто зеленый свет, необходимый властям, чтобы начать рассматривать возможность автоматизации этих систем. И хотя некоторым производителям роботов нравится Boston Dynamics заявляет, что никогда не вооружит своих роботов, другие популярные компании, такие как Ghost Robotics, компания, работающая с Министерством внутренней безопасности США, кажется, гораздо менее брезгливы в отношении вооруженные роботы.

Заключение

 Если вы были обеспокоены распространением полицейских роботов, но чувствовали, что вездесущая слежка никак не может реально повлиять на вашу жизнь, подумайте еще раз. Точно так же, если вы считаете себя участником борьбы за конфиденциальность, но считаете, что угроза вооруженных роботов кажется надуманной, пришло время задуматься о том, как эти две тенденции неразрывно связаны.

Детали все на месте. За последние несколько лет мы стали свидетелями того, как вопросы конфиденциальности потребителей и правительственного надзора тревожным образом переплелись, и все большую роль в этом процессе играет робототехника. Настало время встать и потребовать большего контроля над технологиями, к которым имеет доступ ваше полицейское управление, правил и защиты конфиденциальности потребителей, а также строгих мораториев на использование вооруженных роботов. Будущее уже здесь, и мы готовы вести многостороннюю кампанию, чтобы убедиться, что она справедлива.
Узнайте больше о цифровой дегуманизации

Мэтью Гуарилья (Фото Зака ​​Гарлитоса)

О Мэтью Гуарилья:

(Извлечь из EFF)

Мэтью Гуарилья — политический аналитик, занимающийся вопросами наблюдения и охраны правопорядка на местном уровне, уровне штата и федеральном уровне. Он получил докторскую степень по истории в Университете Коннектикута, где его исследования были сосредоточены на пересечении расы, иммиграции, американского империализма и полиции в Нью-Йорке. Он является соредактором The Essential Kerner Commission Report (Liveright, 2021), а его подписи появились в NBC News, Washington Post, Slate, Motherboard и Muckrock, посвященном свободе информации. Мэтью является аффилированным научным сотрудником Школы права Гастингса Калифорнийского университета и редактором серии «Дисциплина города», посвященной истории городской полиции и тюремного заключения, в блоге The Metropole Ассоциации городской истории.