imagen de héroe de menú

Informe de Deshumanización Digital

Robots en la era de la vigilancia digital, Vigilancia digital en la era de los robots

Un artículo de Mateo Guariglia, analista de políticas, Electronic Frontier Foundation

 

 

Tu información no es tuya, ya no.

Es recopilado segundo a segundo por su teléfono celular, su computadora, por el micrófono en su parlante digital, por la cámara de seguridad en su edificio de oficinas, por el lector automático de matrículas que nunca notó en la intersección, y todo eso. se almacena en algún lugar. Pero cada vez más, el recolector y acaparador de datos sobre su ubicación, sus compras, su vida, ya no es el único propietario de esa información. El panorama de la información es un conjunto infernal e inductor de paranoia de intercambio de datos. Las empresas venden su información en una amplia mercado de corredores de datos. La policía recopila información de las empresas de consumo que utiliza todos los días con solicitudes simples, garantías demasiado amplias, o acuerdos de intercambio de datos. Las empresas con contratos rentables de los organismos encargados de hacer cumplir la ley son cada vez más dado acceso a los datos del gobierno con la promesa de usar algoritmos para encontrar patrones invisibles en el colecciones ya sesgadas de estadísticas criminales.

Ya como sociedad estamos viendo las consecuencias de estos enredos. Los corredores de datos compraron el datos de geolocalización de los usuarios de la aplicación de oración y citas musulmanas y lo vendió a contratistas militares estadounidenses. Abundan los temores de que las empresas privadas que proporcionan lectores automáticos de matrículas tanto a los departamentos de policía como a las asociaciones privadas de vecinos puedan aprovechar toda su red para ayudar a los estados a procesar a los solicitantes de aborto. La policía puede incluso solicitar acceso de emergencia a cámaras comerciales de vigilancia doméstica. sin orden ni consentimiento del usuario yendo directamente a la empresa.

 

Incluso dispositivos domésticos como refrigeradores son cada vez más "inteligentes" y están equipados con micrófonos y cámaras que recopilan datos. Ya es bastante malo que ahora tengamos que vivir con el temor de que nuestro refrigerador hacer un seguimiento de lo que comemos y vender esos datos a los anunciantes de alimentos, pero en 2018 también escuchamos noticias sobre cómo las agencias de inteligencia en los EE. UU. y el Reino Unido tenían la capacidad de tomar el control del sistema de reconocimiento de voz en televisores inteligentes.

 

Cuanto más se doblen los servidores privados de almacenamiento de datos de empresas masivas como Amazon y Google como sala de pruebas para los departamentos de policía y otras agencias de aplicación de la ley, más probable es que sus datos sean analizados en investigaciones criminales. Garantías nuevas pero cada vez más populares como Órdenes de búsqueda de palabras clave inversas o geovallas significa que, en lugar de solicitar información sobre un sospechoso en particular, la policía envía solicitudes a las empresas para obtener datos sobre cualquier persona cuyo teléfono celular se encontraba cerca de un incidente, o que cualquier persona que buscó en Google la dirección de una tienda que luego fue robada podría convertirse en el principal sospechoso.

 

Como si esta mezcla nociva de intercambio de datos, aplicación de la ley y el potencial de violencia y arresto no fuera lo suficientemente complicado, ingrese un nuevo elemento: la robótica. Los robots y los drones, ya sean autónomos o controlados a distancia, son máquinas que recopilan datos y funcionan con los datos recopilados. ¿Cómo interactuarán estas nuevas máquinas de datos rodantes y voladoras con un paisaje ya diseñado para robarle a las personas su privacidad? ¿Qué nuevas inquietudes generarán a medida que se utilicen cada vez más en un mundo en el que los datos de los consumidores y las fuerzas del orden público están tan entrelazados?

 

Comencemos con dónde estamos en nuestro momento actual. La preocupación por el uso policial de robots y drones no es producto de ver demasiadas películas de ciencia ficción. No tienes que estar convencido de que un La adquisición de Skynet es inminente para tener miedo de un futuro cercano en el que las fuerzas del orden utilicen fácilmente robots o confíen en los datos recopilados por los robots. Para aquellos que han estado observando de cerca los departamentos de policía y los mercados de tecnología de consumo, este no es un temor sensacionalista. Tampoco faltan unos años. No es hipotético. Esta aquí.

 

Los departamentos de policía están comprando drones controlados a distancia en grandes cantidades con el propósito de “conocimiento de la situación” o ser apodado “fmultiplicadores de fuerza.” Dentro de las casas, las empresas están ansiosas por venderte drones y robots armados con micrófonos y cámaras que recopilan datos sobre el diseño de su hogar para patrullar mejor su espacio vital. Tanto los departamentos de policía como las entidades privadas están desplegando actualmente robots autónomos buscando “comportamiento sospechoso,” recopilando datos, o simplemente actuando como botones rodantes de “AYUDA”.

 

Aunque los robots ya están patrullando nuestro calles, parques, centros comerciales y supermercados de San Antonio, debemos luchar con el maneras complicadas en que impactan nuestras libertades civiles. Tanto al recopilar cantidades masivas de datos como al legitimar otras operaciones de vigilancia masiva al depender de esos datos para operar, el uso generalizado de robots y drones representa un nuevo frente en la guerra por la privacidad. Y esto ni siquiera comienza a arañar la superficie de lo que le sucede a la policía o a los actores privados. Brazo esos robots.
Foto: Knightscope

Robots que ayudan a la vigilancia

Si bien todavía son raros, los robots a menudo presentan a la policía o entidades privadas con la esperanza de subcontratar algunas patrullas a máquinas con la ventaja de la novedad. No mucha gente sabe todavía cuáles son sus capacidades o qué tipo de datos recopilan.

 

Tome los robots Knightscope, por ejemplo, máquinas rodantes autónomas que ya están en el mundo patrullando parques, centros comerciales y estacionamientos. Si bien la compañía se asegura de hablar sobre la buena prensa que generan los robots a través de selfies y menciones en los medios, un elemento más preocupante es su capacidad para recopilar una gran cantidad de datos. Además de video y audio, los robots también son capaces de leer matrículas y tienen tecnología inalámbrica "capaz de identificar teléfonos inteligentes dentro de su rango hasta las direcciones MAC e IP".

 

“Cuando un dispositivo que emite una señal Wi-Fi pasa dentro de un radio de casi 500 pies de un robot”, explicó una vez la compañía en su blog, "la inteligencia procesable se captura de ese dispositivo, incluida información como: dónde, cuándo, la distancia entre el robot y el dispositivo, la duración que el dispositivo estuvo en el área y cuántas otras veces se detectó en el sitio recientemente".

 

La verdad es que cuando se espera que los robots autónomos, o incluso los vehículos autónomos, atraviesen el mundo, deben confiar en una cantidad incalculable de cámaras y sensores para asegurarse de que no chocan con nada ni lastiman a nadie. En algunos casos, las autoridades despliegan estos sensores de manera muy explícita para llevar a cabo la vigilancia. Es por eso que el Departamento de Seguridad Nacional está actualmente considerando desplegar perros robot lcargado con sensores para patrullar franjas remotas de la frontera entre Estados Unidos y México como parte de una infraestructura mucho más grande de vigilancia fronteriza. Pero en otros casos, los sensores y cámaras que permiten el movimiento autónomo pasaron a formar parte del aparato de vigilancia policial como una suerte de feliz accidente.

 

A menudo decimos que si recopila suficientes datos sobre las personas, eventualmente la policía vendrá a pedírselos. Ese es ciertamente el caso de los autos autónomos que son capaces de circular por las ciudades recopilando imágenes desde múltiples ángulos como una cámara de vigilancia itinerante. Este fue el caso de los automóviles autónomos que ahora circulan por las calles de San Francisco. Los informes de mediados de 2022 mostraron cómo el Departamento de Policía de San Francisco ya solicitó imágenes recopiladas de esos autos “varias veces."

 

Como si las flotas de cámaras rodantes con cantidades incalculables de imágenes de video ubicadas en servidores accesibles para la policía no fueran una pesadilla de privacidad suficiente, ¿qué sucede cuando todas las imágenes de las máquinas autónomas se pueden buscar a través del análisis biométrico? No estamos lejos. Tesla ya ha experimentado con el reconocimiento facial tanto inside e outside de sus vehículos.

 

Ya sea que se trate de un automóvil autónomo que circula por un vecindario, un robot de patrulla que registra la presencia de su teléfono en un parque, uno de los beneficios que presentan los robots es su acceso a las personas sin despertar sospechas que la policía no pueda obtener. Esta es una de las principales preocupaciones sobre los drones y robots domésticos que se venden comercialmente. ¿Qué sucede si la policía quiere registrar la casa de una persona y, en lugar de presentar la orden judicial al propietario, se la presentan a una empresa a cambio de acceso remoto a un dron o robot doméstico? Los dispositivos domésticos como esos pueden presentar un escenario completamente nuevo en el que la policía puede registrar hogares sin siquiera ingresar a ellos, y potencialmente sin que las empresas le informen que su dispositivo ha sido requisado.

 

El auge de la robótica no coincide con el aumento exponencial de la vigilancia digital. Los dos están inextricablemente vinculados. Eso significa que los robots no solo contribuyen a la erosión de su privacidad, sino que la gran cantidad de datos que se recopilan sobre usted también es un facilitador principal en el uso ampliado de robots policiales y comerciales.

Vigilancia del hogar iRobot - Twitter de Owen Williams

Vigilancia que ayuda a los robots

Hemos visto cómo los robots ayudan en el proyecto de vigilancia masiva, realizado por ambas empresas, agencias gubernamentales y los dos trabajando en conjunto. La pregunta para los próximos 10 años será: ¿qué podrán hacer los robots, drones y operadores de drones con tanta información?

 

Ya está claro que la autonomía de los dispositivos depende de una gran cantidad de datos. Además de los sensores que, por ejemplo, permiten que un robot evite golpear una pared, los robots de consumo diseñados para atravesar su casa también deben hacer un mapa digital de esa casa.Solo el tiempo dirá cómo y cuándo la policía solicitará acceso a este tipo de datos a las empresas que los mantienen.

 

Dado que la policía recopila tanta información sobre las personas y, potencialmente, también tiene acceso a todos los datos que recopilan las empresas, solo el tiempo dirá cómo ese conocimiento informará el uso policial incluso de drones y robots controlados a distancia. En Chula Vista, California, la policía está poniendo a prueba un programa en el que los UAS (sistemas aéreos no tripulados) controlados a distancia responden a las llamadas al 911. A partir de ahora, ese programa depende de que las personas llamen activamente a los socorristas, pero ¿qué sucede cuando un programa similar depende de la vigilancia para enviar una flota de drones autónomos que ya no están vinculados a operadores capacitados? Programas como este pueden estar mucho más cerca de lo que piensas.

 

ShotSpotter, una empresa que instala micrófonos de alta potencia con la esperanza de detectar y triangular disparos para alertar a la policía, ya ha dicho que harían equipo con una compañía de drones para enviar drones autónomos para volar automáticamente al presunto sitio de los disparos. Los informes han cuestionado que tan preciso este tipo de tecnología es y genera la preocupación de que los drones, así como la policía armada, podrían estar pululando en un área solo para encontrar personas en las cercanías de un automóvil que petardea o fuegos artificiales que se disparan. La tecnología de vigilancia que envía automáticamente drones a una escena también nos invita a pensar en el siguiente escenario: ¿cuánto tiempo pasará hasta que la policía quiera armar esos drones?

 

 

La línea cruzada infranqueable: Robots armados

Cada día surgen propuestas de robots armados, especialmente robots armados controlados por robots como respuesta a situaciones de crisis o alertas proporcionadas por tecnologías de vigilancia. En 2022, Axon tuvo que retractarse de un plan para desplegar drones controlados a distancia armados con tasers como solución a los tiroteos en las escuelas cuando un la mayoría de su junta de ética renunció como resultado de la propuesta. Dado el aumento de los usos propuestos de sistemas de armas autónomos en todo el mundo, permitiendo armas, ya sea pistolas Taser, o bombas, en robots y drones controlados a distancia podría ser la luz verde necesaria para que las autoridades comiencen a considerar la automatización de esos sistemas. Y aunque a algunos fabricantes de robots les gusta Boston Dynamics dice que nunca armará a sus robots, otras compañías populares como Ghost Robotics, la compañía que trabaja con el Departamento de Seguridad Nacional de EE. UU., parece ser mucho menos aprensiva con robots armados.

 

Conclusión

 Si estaba preocupado por el aumento de la vigilancia por robot, pero sentía que no había forma de que la vigilancia ubicua realmente pudiera afectar su vida, piénselo de nuevo. Del mismo modo, si te consideras parte de la lucha por la privacidad, pero piensas que la amenaza de los robots armados parece descabellada, es hora de considerar cómo esas dos tendencias están intrínsecamente vinculadas.

 

Las piezas están todas en su lugar. En los últimos años, hemos visto cómo los problemas de privacidad del consumidor y la vigilancia del gobierno se han fusionado de manera preocupante, y el papel cada vez más importante que desempeña la robótica en ese proceso. Ahora es el momento de ponerse de pie y exigir más control sobre la tecnología a la que tiene acceso su departamento de policía, regulaciones y protecciones de la privacidad del consumidor y moratorias estrictas sobre el uso de robots armados. El futuro está aquí y estamos listos para luchar en la campaña de varios frentes necesaria para asegurarnos de que sea equitativa.
Más información sobre la deshumanización digital

 

Mateo Guariglia (Foto por Zack Garlitos)

Mateo Guariglia (Foto por Zack Garlitos)

Sobre Mateo Guariglia:

(Extraer de EFF)

Matthew Guariglia es un analista de políticas que trabaja en temas de vigilancia y mantenimiento del orden a nivel local, estatal y federal. Recibió un doctorado en historia en la Universidad de Connecticut, donde su investigación se centró en la intersección de la raza, la inmigración, el imperialismo estadounidense y la policía en la ciudad de Nueva York. Es coeditor de The Essential Kerner Commission Report (Liveright, 2021) y sus firmas han aparecido en NBC News, The Washington Post, Slate, Motherboard y Muckrock, medio centrado en la libertad de información. Matthew es un académico afiliado de la Facultad de Derecho Hastings de la Universidad de California y se desempeña como editor de "Disciplining the City", una serie sobre la historia de la vigilancia urbana y el encarcelamiento en el blog The Metropole de la Asociación de Historia Urbana.

 

 

Texto alternativo de la imagen
Icono de puntos SKR

Detén a los robots asesinos

Únete al equipo

Manténgase al día con los últimos avances en el movimiento para detener a los robots asesinos.

Únete al equipo