مشاكل الأسلحة المستقلة

تعمل الحكومات والشركات على تطوير أنظمة الأسلحة بسرعة مع زيادة الاستقلالية باستخدام التكنولوجيا الجديدة والذكاء الاصطناعي. يمكن استخدام هذه "الروبوتات القاتلة" في مناطق الصراع ، من قبل قوات الشرطة وفي مراقبة الحدود. لكن لا ينبغي السماح للآلة باتخاذ قرار بشأن الحياة والموت.

أبلغ خبراء الأمم المتحدة مجلس الأمن عن الاستخدام الأخير "للأسلحة الفتاكة ذاتية التشغيل" في الصراع في ليبيا. إن استخدام هذه الذخائر ، مع عدم وجود قيود محددة على كيفية عملها أو كيفية استخدامها ، يدل على أن الحاجة إلى قانون جديد أمر ملح.

تسع مشاكل مع الروبوتات القاتلة 

(وحل واحد)

1. نزع الإنسانية الرقمية

يجب أن تعمل التكنولوجيا على تمكين جميع أفراد المجتمع ، وليس اختزالنا - إلى الصور النمطية والتسميات والأشياء. تُستخدم التقنيات التي تُمكِّن الأسلحة المستقلة ، المستخدمة ضد الأشخاص ، تلقائيًا من تحديد ملامح البشر وتطابق الأنماط ومعالجتهم كبيانات. الحقيقة هي أن الآلات لا تستطيع التعرف على الناس على أنهم "بشر". لذا فإن قرار الآلات بإخضاعنا للهجوم من عدمه هو الشكل النهائي لنزع الإنسانية عن الإنسانية.

إذا سمحنا بهذا التجريد من الإنسانية ، فسنكافح لحماية أنفسنا من صنع القرار الآلي في مجالات أخرى من حياتنا. نحن بحاجة إلى حظر أنظمة الأسلحة المستقلة التي يمكن استخدامها ضد الناس ، لمنع هذا الانزلاق إلى نزع الإنسانية الرقمية.

2. التحيزات الخوارزمية

إن السماح للأنظمة المستقلة التي تستهدف الأشخاص يعني السماح للأنظمة بتعزيز أو تفاقم الهياكل القائمة لعدم المساواة. تعيش التحيزات في مجتمعنا في مجموعات بياناتنا ، وفئاتنا ، وتسمياتنا ، وخوارزمياتنا. إن قتل الأشخاص بناءً على تسميات وهويات مبرمجة مسبقًا سيدفعنا دائمًا نحو تعزيز التحيزات أو هياكل الاضطهاد. غالبًا ما يتم أيضًا اختبار التقنيات الجديدة الإشكالية واستخدامها في المجتمعات المهمشة أولاً. يجب أن نتحدى هياكل عدم المساواة ، لا دمجها في الأسلحة.

3. فقدان السيطرة البشرية ذات مغزى

يعني فقدان السيطرة البشرية المجدية أن مستخدمي الأسلحة لم يعودوا يشاركون بشكل كامل في عواقب أفعالهم. وهذا يعني مساحة أقل لـ "الإنسانية". سواء في ساحة المعركة أو في مظاهرة ، لا تستطيع الآلات اتخاذ خيارات أخلاقية معقدة ، ولا يمكنها فهم قيمة الحياة البشرية. الآلات لا تفهم السياق أو العواقب: الفهم قدرة بشرية - وبدون هذا الفهم نفقد المسؤولية الأخلاقية ونقوض القواعد القانونية القائمة.

يعني ضمان تحكم بشري هادف فهم التقنيات التي نستخدمها ، وفهم أين نستخدمها ، والمشاركة الكاملة في عواقب أفعالنا.

4. قلة الحكم البشري والفهم 

لا يمكن للأشخاص إصدار أحكام ذات مغزى إذا لم يفهموا الأنظمة التي يستخدمونها أو السياقات التي يستخدمونها فيها.

أصبحت الأنظمة المستقلة أكثر تعقيدًا. يمكن أن تشكل أشكال الذكاء الاصطناعي والتعلم الآلي حواجز أمام الفهم والقدرة على التنبؤ. لا يمكن استخدام التقنيات التي تغير سلوكها أو تكيف برامجها الخاصة بشكل مستقل بتحكم حقيقي. يمكن أن تقدم التقنيات الأخرى "الصندوق الأسود" ، حيث لا يمكن معرفة سبب أو كيفية اتخاذ القرارات. يمكن أن ينتج عن ذلك أنظمة فعالة جدًا في إكمال مهام معينة - لكن استخدامها غير مناسب حيث يمكن لأي قرار غير متوقع أن يعني الحياة أو الموت. نحن بحاجة إلى التأكد من أن الأنظمة قابلة للتفسير بشكل كافٍ - وأن نحظر الأنظمة التي لا يمكن استخدامها مع تحكم بشري ذي مغزى.

حتى الأنظمة المستقلة البسيطة تمثل تحديات. بموجب القانون ، يجب أن يكون القادة العسكريون قادرين على الحكم على ضرورة وتناسب الهجوم والتمييز بين المدنيين والأهداف العسكرية المشروعة. هذا لا يعني فقط فهم نظام الأسلحة ، ولكن أيضًا فهم السياق الذي يمكن استخدامه فيه. على نطاق أوسع ، أو لفترة أطول من الزمن ، يصبح "السياق" أكثر تعقيدًا - يصبح الموقف أكثر فأكثر غير قابل للتنبؤ. هناك حاجة إلى قواعد قانونية جديدة للحد من عدم القدرة على التنبؤ ولضمان سيطرة بشرية ذات مغزى.

5. عدم وجود المساءلة

يجب محاسبة الناس وليس الآلات. ولكن إذا لم يتخذ الناس قرارات ذات مغزى ، فلا يمكن اعتبارهم مسؤولين بشكل صحيح عن عواقب أفعالهم. سيكون من الظلم تحميل الشخص المسؤولية عن أفعال نظام سلاح مستقل يعمل خارج نطاق سيطرته الفعلية. إذا كنا ملتزمين بالمساءلة ، فنحن بحاجة إلى قواعد تضمن أن الأشخاص المناسبين يتحملون المسؤولية في استخدام القوة.

6. عدم القدرة على شرح ما حدث ولماذا

إن مشاكل السيطرة والمساءلة هذه تخاطر بترك أي شخص يتضرر بلا مكان يلجأ إليه. إذا لم نتمكن من شرح كيفية حدوث النتائج ، فإننا نترك الضحايا في الظلام - بدون تفسير ولا مساءلة. نادراً ما يحصل الأشخاص الذين فقدوا أفراد عائلاتهم وأحبائهم في النزاع على العدالة على خسائرهم. يجب أن نعمل على تصحيح ذلك - وليس برمجة هذا التجاهل من خلال أنظمة لا يمكننا شرحها أو التحكم فيها.

7. تخفيض عتبة الحرب

كما سيتم تضخيم التحديات التي تفرضها الأساليب الحالية للحرب عن بُعد من خلال زيادة الاستقلالية ، مع زيادة انفصال البشر عن استخدام القوة. استخدمت الدول الطائرات المسلحة بدون طيار الحالية لتطبيق القوة المميتة في المواقف التي لم تكن لتستخدمها من قبل - جلب الخوف والرعب من الصراع إلى أماكن بعيدة عن ساحات القتال النشطة.

من المفهوم أن جميع الدول تريد تقليل مخاطر الصراع على قواتها. ولكن في حين أن استبدال الأشخاص بالآلات قد يجعل العمل العسكري مقبولاً أكثر من الناحية السياسية في "الوطن" ، إلا أنه يمكن أن يجعل الدخول في الصراع أسهل. كما أنه ينقل عبء الضرر بشكل أكبر على عاتق السكان المدنيين.

8. سباق تسلح مزعزع للاستقرار

تستخدم القوى العسكرية الكبرى التوترات السياسية والتنافس على القوة الدولية كمبرر للاستثمار في التقنيات التي تقلل من السيطرة البشرية. لقد سمعنا أنه يجادل من كلا الجانبين: نحن بحاجة إلى مزيد من الاستقلالية في حالة تمتع خصومنا بمزيد من الاستقلالية. إن مصنعي الأسلحة حريصون على تشجيع هذا الخطاب من أجل زيادة الأرباح. قد تفيد هذه الديناميكيات البعض ، لكنها ضارة بالبقية منا - إهدار الأموال على النفقات العسكرية غير الضرورية ، وإثارة التوترات وزيادة مخاطر الصراع (سواء كان متعمدًا أو ناتجًا عن استجابة مستقلة عرضية). نحن بحاجة إلى مزيد من الإنسانية في علاقاتنا الدولية ، وليس المزيد من نزع الصفة الإنسانية.

9. علاقتنا بالتكنولوجيا

يمكن وينبغي تطوير التكنولوجيا لتعزيز السلام والعدالة وحقوق الإنسان والمساواة. نحتاج جميعًا إلى تحمل مسؤولية تطوير واستخدام التكنولوجيا ، والدور الذي تلعبه في حياتنا. إن اتخاذ قرار برسم خط ضد الآلات التي تتخذ قرارات لقتل الناس - رسم خط ضد التقنيات التي تطبق القوة دون سيطرة بشرية حقيقية - يوفر اختبارًا أساسيًا لعلاقتنا مع الذكاء الاصطناعي والتقنيات الجديدة في جميع مجالات المجتمع. إذا لم نرسم هذه الخطوط الآن ، فسيزداد الأمر صعوبة مع ازدياد استثمار الدول والشركات التجارية في التنمية. يُعد رفض التجريد الرقمي من الإنسانية وضمان سيطرة بشرية هادفة على استخدام القوة من الخطوات الأساسية لبناء علاقة أكثر تمكينًا مع التكنولوجيا لجميع الأشخاص الآن وفي المستقبل.