image de héros de menu

Rapport sur la déshumanisation numérique

Les robots à l'ère de la surveillance numérique, la surveillance numérique à l'ère des robots

Un article de Matthieu Guariglia, analyste des politiques, Electronic Frontier Foundation

 

 

Vos informations ne vous appartiennent plus, plus maintenant.

Elles sont collectées seconde par seconde par votre téléphone portable, votre ordinateur, par le microphone de votre haut-parleur numérique, par la caméra de sécurité de votre immeuble de bureaux, par le lecteur de plaque d'immatriculation automatisé que vous n'avez jamais remarqué à l'intersection - et tous il est stocké quelque part. Mais de plus en plus, le collecteur et le thésauriseur de données sur votre localisation, vos achats, votre vie, n'est plus non plus le seul propriétaire de ces informations. Le paysage de l'information est un ensemble infernal et paranoïaque de partage de données. Les entreprises vendent vos informations sur un vaste marché des courtiers en données. La police récolte des informations auprès des entreprises de consommation que vous utilisez tous les jours avec de simples demandes, mandats trop larges, ou accords de partage de données. Les entreprises ayant des contrats rentables avec les forces de l'ordre sont de plus en plus donné accès aux données du gouvernement avec la promesse d'utiliser des algorithmes pour trouver des modèles invisibles dans le des collections de statistiques sur la criminalité déjà faussées.

Déjà en tant que société, nous voyons les retombées de ces enchevêtrements. Les courtiers en données ont acheté le données de géolocalisation des utilisateurs de l'application de rencontres et de prières musulmanes et l'a vendu à des entrepreneurs militaires américains. Les craintes abondent que les entreprises privées qui fournissent des lecteurs de plaques d'immatriculation automatisés aux services de police et aux associations de quartier privées pourraient exploiter tout leur réseau afin d'aider les États à poursuivre les demandeurs d'avortement. La police peut même demander un accès d'urgence aux caméras de surveillance à domicile commerciales sans mandat ni consentement de l'utilisateur en s'adressant directement à l'entreprise.

 

Même les appareils domestiques comme réfrigérateurs deviennent de plus en plus « intelligents » et équipés de microphones et de caméras collectent des données. C'est déjà assez grave que nous devions maintenant vivre dans la peur que notre réfrigérateur ne garder une trace de ce que nous mangeons et vendre ces données aux annonceurs alimentaires, mais en 2018, nous avons également entendu des nouvelles sur la façon dont les agences de renseignement aux États-Unis et au Royaume-Uni avaient la capacité de prendre le contrôle du système de reconnaissance vocale dans les téléviseurs intelligents.

 

Plus les serveurs de stockage de données privés d'entreprises massives comme Amazon et Google servent de salle de preuves pour les services de police et autres organismes chargés de l'application de la loi, plus vos données seront probablement examinées dans le cadre d'enquêtes criminelles. Des mandats nouveaux mais de plus en plus populaires comme Geofence ou mandats de recherche inversés par mot-clé signifient que, plutôt que de demander des informations relatives à un suspect particulier, la police envoie des demandes aux entreprises pour obtenir des données sur toute personne dont le téléphone portable se trouvait à proximité d'un incident, ou que toute personne qui a recherché sur Google l'adresse d'un magasin qui a ensuite été cambriolé pourrait devenir un suspect principal.

 

Comme si ce brassage nocif de partage de données, d'application de la loi et de potentiel de violence et d'arrestation n'était pas assez compliqué, entrez un nouvel élément : la robotique. Les robots et les drones, qu'ils soient autonomes ou télécommandés, sont des machines qui collectent des données et fonctionnent sur les données collectées. Comment ces nouvelles machines de données roulantes et volantes interagiront-elles avec un paysage déjà conçu pour priver les gens de leur vie privée ? Quelles nouvelles préoccupations soulèveront-ils à mesure qu'ils deviendront de plus en plus utilisés dans un monde où les données des consommateurs et des forces de l'ordre sont si imbriquées ?

 

Commençons par où nous en sommes à notre moment actuel. L'inquiétude suscitée par l'utilisation de robots et de drones par la police n'est pas le produit d'un trop grand nombre de films de science-fiction. Vous n'avez pas à être convaincu qu'un Le rachat de Skynet est imminent afin d'avoir peur d'un avenir proche où les forces de l'ordre utilisent facilement des robots ou s'appuient sur des données collectées par des robots. Pour ceux qui ont observé de près les services de police et les marchés des technologies grand public, il ne s'agit pas d'une crainte sensationnaliste. Ce n'est pas non plus dans quelques années. Ce n'est pas hypothétique. C'est ici.

 

Des drones télécommandés sont achetés en grande quantité par les services de police à des fins de «connaissance de la situation" ou être surnommé " fmultiplicateurs de force.” À l'intérieur des maisons, les entreprises sont impatientes de vous vendre drones et robots armés de microphones et de caméras qui recueillent des données sur l'aménagement de votre maison afin de mieux patrouiller votre espace de vie. Les services de police et les entités privées déploient actuellement des robots autonomes recherche de "comportement suspect,» collectant des données, ou simplement agissant généralement comme des boutons roulants « AIDE ».

 

Même si des robots patrouillent déjà nos rues, parcs, centres commerciaux et épiceries, nous devons lutter avec le façons compliquées dont ils affectent nos libertés civiles. En collectant des quantités massives de données ou en légitimant d'autres opérations de surveillance massives en s'appuyant sur ces données pour fonctionner, l'utilisation généralisée des robots et des drones représente un nouveau front dans la guerre pour la vie privée. Et cela ne commence même pas à effleurer la surface de ce qui arrive à la police ou aux acteurs privés Bras ces robots.
Photo de : Knightscope

Des robots qui facilitent la surveillance

Bien qu'ils soient encore rares, les robots présentent souvent des policiers ou des entités privées espérant sous-traiter certaines patrouilles à des machines avec l'avantage de la nouveauté. Peu de gens savent encore quelles sont leurs capacités ou quel type de données ils collectent.

 

Prenez les robots Knightscope, par exemple, des machines à rouler autonomes qui sont déjà dans le monde patrouillant dans les parcs, les centres commerciaux et les parkings. Alors que l'entreprise se fait un devoir de parler de la bonne presse que les robots engendrent grâce à selfies et mentions dans les médias, un élément plus préoccupant est leur capacité à collecter une quantité massive de données. En plus de la vidéo et de l'audio, les robots sont également capables de lire les plaques d'immatriculation et disposent d'une technologie sans fil "capable d'identifier les smartphones dans sa portée jusqu'aux adresses MAC et IP".

 

"Lorsqu'un appareil émettant un signal Wi-Fi passe dans un rayon de près de 500 pieds d'un robot", a expliqué la société sur son blogue, "des informations exploitables sont capturées à partir de cet appareil, y compris des informations telles que : où, quand, distance entre le robot et l'appareil, la durée pendant laquelle l'appareil était dans la zone et combien d'autres fois il a été détecté sur le site récemment."

 

La vérité est que lorsque des robots autonomes - ou même des véhicules autonomes - sont censés traverser le monde, ils doivent s'appuyer sur un nombre incalculable de caméras et de capteurs pour s'assurer qu'ils ne heurtent rien ou ne blessent personne. Dans certains cas, ces capteurs sont très explicitement déployés par les autorités pour effectuer une surveillance. C'est pourquoi le Department of Homeland Security est actuellement envisager de déployer des chiens robots lchargé de capteurs pour patrouiller dans des zones éloignées de la frontière américano-mexicaine dans le cadre d'une infrastructure beaucoup plus vaste de surveillance des frontières. Mais dans d'autres cas, les capteurs et les caméras qui permettent un mouvement autonome sont devenus une partie de l'appareil de surveillance policière comme une sorte d'heureux accident.

 

Nous disons souvent que si vous collectez suffisamment de données sur les gens, la police finira par venir les demander. C'est certainement le cas des voitures autonomes qui sont capables de parcourir les villes en collectant des images sous plusieurs angles comme une caméra de surveillance itinérante. C'était le cas des voitures autonomes qui circulent actuellement dans les rues de San Francisco. Les rapports de la mi-2022 ont montré comment le département de police de San Francisco a déjà demandé des images collectées à partir de ces voitures »plusieurs fois. »

 

Comme si des flottes de caméras roulantes avec des quantités incalculables de séquences vidéo hébergées sur des serveurs accessibles à la police n'étaient pas un cauchemar pour la vie privée, que se passe-t-il lorsque toutes les séquences de machines autonomes deviennent consultables grâce à l'analyse biométrique ? Nous ne sommes pas loin. Tesla a déjà expérimenté la reconnaissance faciale à la fois à l'intérieur et de au contrôle de leurs véhicules.

 

Qu'il s'agisse d'une voiture autonome roulant dans un quartier, d'un robot de patrouille enregistrant la présence de votre téléphone dans un parc, l'un des avantages des robots présents est leur accès aux personnes sans éveiller les soupçons que la police peut ne pas être en mesure d'obtenir. Il s'agit d'une préoccupation majeure concernant les drones et les robots domestiques vendus dans le commerce. Que se passe-t-il si la police veut fouiller le domicile d'une personne et plutôt que de présenter le mandat au propriétaire, elle le présente à une entreprise en échange d'un accès à distance à un drone ou un robot domestique ? Les appareils ménagers comme ceux-ci peuvent présenter un tout nouveau scénario dans lequel la police peut fouiller les maisons sans jamais y entrer – et potentiellement sans que les entreprises ne vous informent que votre appareil a été réquisitionné.

 

L'essor de la robotique ne coïncide pas avec l'essor exponentiel de la surveillance numérique. Les deux sont inextricablement liés. Cela signifie que non seulement les robots contribuent à l'érosion de votre vie privée, mais que la grande quantité de données collectées sur vous est également un catalyseur principal de l'utilisation accrue des robots policiers et commerciaux.

Surveillance à domicile iRobot - Owen Williams Twitter

Surveillance qui aide les robots

Nous avons vu comment les robots contribuent au projet de surveillance de masse, mené par les deux entreprises, les agences gouvernementales et les deux travaillant en tandem. La question pour les 10 prochaines années sera : que pourront faire les robots, les drones et les opérateurs de drones avec autant d'informations ?

 

Déjà, il est clair que l'autonomie des appareils dépend d'une quantité massive de données. En plus des capteurs qui, par exemple, permettent à un robot d'éviter de heurter un mur, les robots grand public conçus pour traverser votre maison doivent également faire un carte numérique de cette maisonSeul le temps nous dira comment et quand la police demandera l'accès à ce type de données aux entreprises qui les conservent.

 

Avec la police collectant autant d'informations sur les personnes et ayant potentiellement accès à toutes les données que les entreprises collectent également, seul le temps nous dira comment ces connaissances informeront la police de l'utilisation même des drones et des robots télécommandés. À Chula Vista, en Californie, la police pilote un programme dans lequel les UAS télécommandés (systèmes aériens sans pilote) répondent aux appels du 911. À l'heure actuelle, ce programme dépend des personnes qui appellent activement les premiers intervenants, mais que se passe-t-il lorsqu'un programme similaire repose sur la surveillance pour envoyer une flotte de drones autonomes qui ne sont plus liés à des opérateurs formés ? Des programmes comme celui-ci peuvent être beaucoup plus proches que vous ne le pensez.

 

ShotSpotter, une entreprise qui installe des microphones puissants dans l'espoir de détecter et de trianguler les coups de feu afin d'alerter la police, a déjà dit qu'ils feraient équipe avec une société de drones pour envoyer des drones autonomes voler automatiquement vers le site présumé des coups de feu. Des rapports ont remis en question à quel point précis ce type de technologie est et soulève la crainte que des drones, ainsi que des policiers armés, pourraient envahir une zone uniquement pour trouver des personnes à proximité d'un pétard de voiture ou d'un feu d'artifice en train de se déclencher. La technologie de surveillance envoyant automatiquement des drones sur une scène nous invite également à réfléchir au scénario suivant : combien de temps avant que la police ne veuille armer ces drones ?

 

 

La ligne infranchissable croisée : les robots armés

Des propositions de robots armés, notamment de robots armés commandés par des robots, en réponse à des situations de crise ou d'alertes fournies par les technologies de surveillance, émergent chaque jour. En 2022, Axon a dû renoncer à un plan de déploiement de drones télécommandés armés de tasers comme solution aux fusillades dans les écoles lorsqu'un la majorité de son comité d'éthique a démissionné à la suite de la proposition. Compte tenu de l'augmentation des utilisations proposées de systèmes d'armes autonomes dans le monde entier, permettant aux armes - que ce soit armes à feu, Tasers, ou des bombes, sur les robots et les drones télécommandés pourrait bien être le feu vert nécessaire pour que les autorités commencent à envisager d'automatiser ces systèmes. Et tandis que certains fabricants de robots aiment Boston Dynamics annonce qu'il n'armera jamais ses robots, d'autres sociétés populaires comme Ghost Robotics, la société travaillant avec le département américain de la sécurité intérieure, semblent être beaucoup moins sensibles à robots armés.

 

Conclusion

 Si vous étiez préoccupé par l'essor de la police par robot, mais que vous pensiez qu'il n'y avait aucun moyen que la surveillance omniprésente puisse vraiment affecter votre vie, détrompez-vous. De même, si vous considérez que vous faites partie de la lutte pour la vie privée, mais que la menace des robots armés semble farfelue, il est temps de considérer comment ces deux tendances sont intrinsèquement liées.

 

Les pièces sont toutes en place. Au cours des dernières années, nous avons vu comment les problèmes de confidentialité des consommateurs et la surveillance gouvernementale ont fusionné de manière troublante – et le rôle de plus en plus important que la robotique joue dans ce processus. Il est maintenant temps de se lever et d'exiger plus de contrôle sur la technologie à laquelle votre service de police a accès, les réglementations et la protection de la vie privée des consommateurs, et des moratoires stricts sur l'utilisation de robots armés. L'avenir est là et nous sommes prêts à mener la campagne à plusieurs volets nécessaire pour nous assurer qu'elle est équitable.
En savoir plus sur la déshumanisation numérique

 

Matthieu Guariglia (Photo de Zack Garlitos)

Matthieu Guariglia (Photo de Zack Garlitos)

À propos de Matthieu Guariglia :

(Extrait de FEP)

Matthew Guariglia est un analyste des politiques travaillant sur les questions de surveillance et de maintien de l'ordre aux niveaux local, étatique et fédéral. Il a obtenu un doctorat en histoire à l'Université du Connecticut, où ses recherches se sont concentrées sur l'intersection de la race, de l'immigration, de l'impérialisme américain et de la police à New York. Il est co-rédacteur en chef du rapport de la Commission Essential Kerner (Liveright, 2021) et ses signatures ont été publiées dans NBC News, le Washington Post, Slate, Motherboard et le média Muckrock, centré sur la liberté d'information. Matthew est chercheur affilié à l'Université de Californie, Hastings-School of Law et est rédacteur en chef de «Disciplining the City», une série sur l'histoire de la police urbaine et de l'incarcération sur le blog The Metropole de l'Urban History Association.

 

 

Texte alternatif de l'image
Icône de points SKR

Arrêtez les robots tueurs

Rejoignez-nous

Tenez-vous au courant des derniers développements du mouvement Stop Killer Robots.

Rejoignez-nous