La technologie pour le bien de l'humanité

Alors que COVID-19 oblige la communauté internationale à étendre la boîte à outilsx à sa disposition pour faire face plus efficacement à la crise, les entreprises d'intelligence artificielle (IA) et le secteur technologique au sens large sont ralliement pour aider les gouvernements et les autorités de santé publique. Les entreprises établies et les start-up développent des moyens de précoce de violation de données, effectuer une recherche numérique des contacts, Écrans faciaux en impression 3D, et même travailler sur meilleure détection des infections sur les radiographies pulmonaires. Ces réponses incroyables montrent que « la technologie pour le bien », c'est-à-dire la création et l'utilisation de la technologie pour l'amélioration de l'humanité, est plus - ou du moins peut être plus - qu'un slogan vide de sens.

Dans le même temps, la crise du COVID-19 élargit et redéfinit à la fois les notions traditionnelles de sécurité nationale et ce qui constitue une préparation efficace. Cette pandémie a en fait mis en évidence les choix qui sont faits quant à l'affectation des ressources, aux technologies développées et à quelles fins. Ces types de choix sont et seront particulièrement importants en ce qui concerne les applications de l'IA pour la sécurité nationale et mondiale.

Certaines applications de sécurité et de défense de l'IA, qui automatisent différentes tâches et améliorent l'efficacité, ne sont pas particulièrement problématiques. Cependant, des pays comme les États-Unis, la Russie, la Chine et la Corée du Sud investissent également massivement dans des systèmes d'armes de plus en plus autonomes. Pour l'exercice 2021, le Pentagone américain a demandé quelque $1.7 milliards pour la recherche et le développement de technologies autonomes basées sur l'IA.

L' Campagne pour arrêter les robots tueurs avertit, le souci est que les nouveaux systèmes d'armes fonctionneront sans contrôle humain significatif. Des fonctions critiques telles que la sélection des cibles et l'emploi de la force meurtrière pourraient être exécutées par des machines peu dirigées par des opérateurs humains. Dans un avenir proche, l'implication humaine pourrait être complètement supprimée - un développement sans précédent vers un territoire éthique et juridique inexploré.

Mary Wareham, coordinatrice de la campagne pour arrêter les robots tueurs, fait un point lors d'une conférence de presse de l'ONU à New York 2019. Les autres panélistes sont Liz O'Sullivan, technicienne et experte en protection de la vie privée et lauréate du prix Nobel de la paix Jody Williams. Photo : Ari Beser

Pourtant, les militaires continuent d'adopter les technologies émergentes. Dans Décembre 2019, la Defense Advanced Research Projects Agency des États-Unis (DARPA, la branche de recherche sur la défense du Pentagone) a testé un essaim de 250 robots travaillant ensemble pour naviguer dans un faux environnement urbain et aider une petite unité d'infanterie. Le test en essaim, bien que toujours contrôlé par des humains, a montré le travail en cours pour améliorer la collecte d'informations en temps réel et la navigation des machines dans un environnement complexe. La marine américaine a également examiné un réseau de systèmes d'IA où un Commandant a simplement donné l'ordre de tirer. Ce niveau de contrôle humain est insuffisant même s'il y a un opérateur humain qui supervise apparemment le système.

D'autres pays travaillent également à l'intégration de technologies autonomes dans les systèmes militaires. L'année dernière, Turquie a même affirmé avoir testé un drone autonome en Syrie. Bien que non vérifiée - et probablement imprécise - l'affirmation de la Turquie souligne la nécessité d'un examen plus approfondi de la manière dont les nouvelles technologies sont adoptées à des fins de sécurité. La Russie travaille à l'adaptation des technologies des véhicules autonomes et au développement des véhicules autonomes les chars. Sans aucun doute, de nombreux autres pays examinent ces développements et concentrent leurs efforts de recherche sur des technologies similaires, et envisagent les applications de sécurité et de défense des technologies existantes.

La réalité des technologies d'IA, et en grande partie ce que nous observons pendant la réponse à la pandémie, est qu'il s'agit de technologies à usages multiples. Les mêmes applications qui peuvent nous aider à naviguer sur les routes peuvent être utilisées pour suivre les mouvements de population. Pendant que les entreprises développent la technologie, ce sont en fin de compte les pays et les sociétés qui décident dans quelles technologies investir et quelles applications prendre en charge. En ce qui concerne les applications de l'IA, les développements d'armes entièrement autonomes constituent un exemple clair du type de technologie qui doit être interdite de toute urgence.

C'est le moment pour les gouvernements désireux de fournir à leurs armées des technologies modernes assistées par l'IA et d'autres technologies de pointe pour examiner sérieusement les types de capacités qu'ils souhaitent prioriser pour assurer la sécurité de leurs citoyens - et quelles frontières ne doivent pas être franchi. Et il est maintenant temps de donner la priorité aux technologies qui améliorent et sauvent des vies humaines. Ces choix seront essentiels pour mieux se préparer à faire face aux pandémies et au changement climatique, des menaces mondiales qui ne peuvent clairement plus être ignorées.

Branka Marijan s'exprimant à True North 2019.

Si cet article vous parle, consultez le site Web Campaign to Stop Killer Robots : www.stopkillerrobots.org ou rejoignez la conversation @bankillerrobots #TeamHuman et #KeepCtrl.

Article original publié le Medium.com.