صورة بطل القائمة
جيل الألفية يجلس في زاوية غرفة ، يقرأ ، ويحيط به المفروشات الألفية بما في ذلك النباتات المنزلية

خمسة أسباب لماذا جيل الألفية بحاجة إلى حظر الروبوتات القاتلة

تدربت كارولين فوكس في Mines Action Canada كمساعد اتصالات في حملة وقف الروبوتات القاتلة بين سبتمبر وديسمبر 2019 ، أثناء دراستها العليا في جامعة أوتاوا.

الصورة عن طريق أوستن ديستل.

رؤية جيل الألفية كقادة المستقبل في قضايا العالم هي فكرة مقلقة للأجيال الأكبر سنا. صُمم جيل الألفية على أنه كسول ، غير متحمس ، ومتأخر بسبب خط ستاربكس الطويل ، لديه تحيزات مختلفة تعمل ضدهم عند دخولهم في القوى العاملة.

ومع ذلك ، على الرغم من قوتناcمقلدون ، نحن نشهد صعود القوى العاملة التي يديرها جيل الألفية ، وقريباً سيكونون قادة دوليين من جيل الألفية. سيؤثر هذا التغيير الديموغرافي إلى حد كبير على القضايا التي تحظى بأكبر قدر من الاهتمام. ببساطة ، نحن صانعو القرار المستقبليون لأمتنا - وما نقوله مهم ، يذهب.

أحد أكبر التحديات التي يواجهها جميع القادة الدوليين هو ضمان سلامة وأمن مواطنيهم. وهذا يشمل حفظ الأمن في المجتمعات المحلية وتأمين الحدود الوطنية وإقراض المشاركة في الحرب الدولية.

على نحو متزايد ، بدأت أقلية من البلدان في تمويل تطوير أسلحة ذاتية التشغيل بالكامل ، تُعرف أيضًا باسم "الروبوتات القاتلة" ؛ أنظمة مصممة لتحديد الأهداف والقتل بدون تحكم الإنسان. تشكل الروبوتات القاتلة مخاطر كبيرة على البشرية. فيما يلي خمسة أسباب تجعل جيل الألفية بحاجة إلى حظر الروبوتات القاتلة.

سيتم توجيه تصرفات الروبوتات القاتلة بالأرقام. الأسلحة المستقلة بالكامل ، في أبسط مستوياتها ، ستكون آلات ذات عمليات. على عكس اتخاذ القرار في الوقت الفعلي ، فإن إشراك الروبوتات في أعمال الشرطة أو الحرب يعني التصرف بناءً على خوارزميات محددة مسبقًا ، مثل سطح مكتب عائلتك الذي يحتاج إلى التحديث باستمرار. تساعد هذه الخوارزميات نظام رادار الكمبيوتر في فحص محيطه لتحديد ما إذا كان ملف تعريف الهدف في وسطه أم لا.

لكن لا توجد آلية عاكسة. تعمل الروبوتات القاتلة على "عملية تحليل-استشعار-قوة" حيث يقوم الجهاز بجمع البيانات على المصدر الخارجي ، وتحليل المصدر بناءً على برمجته الداخلية ، وتطبيق القوة إذا تم استيفاء الشروط اللازمة للقيام بذلك (اقرأ المزيد في www.article36.org). ومع ذلك ، لا يزال التعلم الآلي فيما يتعلق بتحليل البيانات غير واضح ، مما يزيد من تعقيد هذه المشكلة. هذا يثير التساؤل حول الأخلاقيات الكامنة وراء الرموز التي تبرمج نظامًا للقتل.

لقد سمعناها جميعًا من قبل - جيل الألفية كذلك حساس. القوة الدافعة وراء سوء الفهم هذا هي الدرجة التي تصف بها الأجيال الشابة السلوك الطبيعي على أنه خطأ.

نهجنا ليس مثاليًا. بعد كل شيء ، نحن أيضًا الجيل الذي أكل Tide Pods. ومع ذلك ، فلا شك في أن جيل الألفية يسعي لتحقيق المساواة بين الفئات الضعيفة التي تواجه تمييزًا منهجيًا ، بما في ذلك النساء والأشخاص الملونين ومجتمعات LGBTQ + والأشخاص الذين يعملون بأجر أدنى ومجموعات دينية مختلفة.

تتحدى الروبوتات القاتلة هذه الجهود من خلال الخوارزميات المحددة مسبقًا التي تحدد هدف القتل. هذه الخوارزميات كامنة مع تحيزاتها الخاصة التي تملي إنتاج الآلة. الروبوت ، على عكس الإنسان ، لا يمكنه ذلك علم من هو شخص معين أو ماذا يفعلون. بدلاً من ذلك ، يقومون بفحص عوامل التعريف التي تتطابق مع المعايير التي تمت برمجتها في نظام التشغيل الخاص بهم. سيتم إجبار هذه البرمجة على استخدام خصائص مثل لون الجلد ، وبنية العظام ، وعلامات الوجه ، والموقع ، أو نمط السلوك. يفتح هذا الباب أمام فشل محتمل عندما يضطر الروبوت إلى التمييز بين الجنود والمدنيين الذين يشبهونهم ، لكن لديهم دوافع مختلفة تمامًا.

لقد كنا جميعًا هناك ، جيل الألفية. تذهب لفتح الكمبيوتر المحمول في فصل الصباح ، فقط لتكتشف أن النظام قد تعطل. انتهى عملك المدرسي ، وانتهت الحياة كما تعلم.

تعتبر الأعطال في الأجهزة من "الأمور غير الشائعة". إنها تحدث مرة واحدة فقط كل فترة ، لكن حتمًا ، سيجدونك. نحن نعلم هذا لأن الأجهزة ليست مثالية ، على الرغم من مستوى التدريب المتخصص وراء مهندسي حتى أكثر أجهزة MacBook تطوراً. ومع ذلك ، بالمقارنة مع الروبوت القاتل ، فإن نظام MacBook بسيط للغاية. يكمن الخطر في الأسلحة ذاتية التحكم في المساءلة التي يتحملها عالم الروبوت أو المهندس أو المبرمج فيما يتعلق بالمنتج النهائي. إذا لم نكن قد اكتشفنا كيفية إنشاء كمبيوتر محمول أساسي دون إخفاقات ، فكيف نأخذ في الحسبان التنفيذ الخالي من العيوب للآلة في موقف تكون فيه المخاطر أكثر أهمية من الطالب في الفصل؟

إحدى الحجج الأساسية حول الانخراط في دوائر الحرب حول القيمة. قيمة المكاسب السياسية والاقتصادية لها أهمية قصوى في هذا النقاش. نحن نعرف كل شيء عن المكاسب الشخصية ، جيل الألفية! إنه شيء يشبه عندما يطلق علينا الكبار أنانيون.

يعزز ظهور الروبوتات القاتلة نفسه حول فكرة أن المواطنين لن يضطروا بعد الآن إلى الانخراط في حرب جسدية ، مما يجعل الحرب أكثر دقة ويقلل أو يقضي على الخسائر البشرية من المعادلة. لكن هذا ليس صحيحًا تمامًا.

هناك العديد من الأسئلة حول الروبوتات القاتلة التي لم يجيب عليها حتى أكثر المهندسين وعلماء الروبوتات والمشرعين تعقيدًا. هناك القليل من الأدلة التي تشير إلى أن الأسلحة المستقلة سيكون لها تأثير إيجابي على التأثير المدني. في الواقع ، من المرجح أن يكون المدنيون في البلدان التي مزقتها الحروب أكثر عرضة لخطر تصنيفهم بشكل خاطئ كأهداف بسبب أوجه التشابه في المظهر مع المقاتلين. لنأخذ على سبيل المثال الزي القتالي لداعش ، والذي يتضمن أقنعة وجه سوداء تغطي الجميع باستثناء العينين. وهذا يشكل مخاطر على النساء اللواتي يرتدين النقاب الأسود أو البرقع. بالإضافة إلى ذلك ، فإن هذا يعرض الأطفال القريبين للخطر. مدنيو الدول التي تنشر الروبوتات القاتلة لديهم أيضًا أسباب للقلق. على سبيل المثال ، إذا تم تطوير واستخدام أسلحة مستقلة تمامًا ، فيمكن نظريًا استخدامها في أعمال الشرطة المحلية أو استبدالها. هذا يعرض المجتمعات الضعيفة التي تواجه المبالغة في ممارسة الشرطة أو عنف الشرطة لخطر مراقبتها من قبل قوة شرطة روبوتية. كيف نتوقع أن يستجيب سلاح مستقل تمامًا لمكالمة 911 التي تقدم وصفًا بسيطًا لهوية الجاني؟ هل يمكننا أن نتوقع أن يعرف الروبوت كيفية التعامل مع هجوم غير متوقع إذا كان عليه تحديد الهدف في الوقت الفعلي؟

هذه الأنواع من الأسئلة تذهب دون إجابة. باختصار ، نحن نطور الآلات بشكل أعمى.

لا يخفى على أحد أن التحديات التي تواجه رفاهية جيل الألفية على المدى الطويل فريدة من نوعها مقارنة بالشواغل العالمية للأجيال الماضية. هذا لا يطرق آثار مآسي العالم الماضية. بعد كل شيء ، لن يتمكن أي جيل من الألفية من التعامل بشكل جيد مع الكساد الاقتصادي الهائل. هذا النوع من الاقتراع ليس المحتوى الذي يبحث عنه متابعونا على Instagram.

ومع ذلك ، على عكس أسلافنا ، يواجه جيل الألفية تحديًا عالميًا خارجًا تمامًا عن سيطرة أي فرد: تغير المناخ. بدون التزام جماعي من جميع الجهات الفاعلة ، صغيرة مثل العادات الفردية اليومية لممارسات الإنتاج واسعة النطاق للشركات متعددة الجنسيات ، ستدمرنا الكوارث الطبيعية في النهاية. ستكون نهاية البشرية غير شخصية - مجرد نتيجة لتراكم الوقود الأحفوري الضار ، والنفايات السامة ، وعدم الاحترام التام لموائل الأنواع المختلفة.

في ضوء ذلك ، بدأنا في رؤية العديد من أوجه التشابه بين تأثيرات تغير المناخ والروبوتات القاتلة. تغير المناخ ، مثل الروبوت ، لا يعترف بالإنسان ككيان جوهري. الإنسان هو ترس صغير في النظام الأكبر الذي يسعى تغير المناخ إلى تدميره. لا تأخذ بعين الاعتبار نتائج المتفرجين في طريقها. وبالمثل ، فإن الروبوتات القاتلة لا تتعرف على الأهداف كإنسان ، ولكنها بالأحرى كائن للاشتباك. مهمتها الشاملة لا تأخذ في الاعتبار القتل كحدث مهم ، ولكن بالأحرى الانتهاء من المهمة. ما يتلخص في ذلك ، جيل الألفية ، هو ما إذا كنا نريد الجنود ، سواء كانوا آلات أو بشر ، لفهم أهمية الحياة. يجب أن نتوقع سلوكًا دؤوبًا مماثلاً كما نتوقع من الشرطة أو الجيش بمنح السلطة من الدولة لإنهاء حياة الشخص.

الأمر بسيط جدًا ، جيل الألفية. تشكل الروبوتات القاتلة مخاطر أكثر من الانتصارات. لم يكن دور التكنولوجيا أن يحل محلنا أبدًا - بل مساعدتنا في المهام اليومية. نحتاج أن ننظر إلى الظروف ونسأل أنفسنا ما إذا كان هذا هو نوع العالم الذي نريد العيش فيه.

التغيير في متناول أيدينا. دعنا فقط نتأكد من ظهورنا في الوقت المحدد لنرى ذلك يحدث.

قم بزيارتنا stopkillerrobots.org لمعرفة المزيد عن الروبوتات القاتلة وما يمكنك فعله حيالها. # فريق_الانسان

رسم مع كارولين فوكس وهي تمد يدها إلى الكاميرا وبيدها "Stop Killer Robots".

تدربت كارولين فوكس في Mines Action Canada كمساعد اتصالات في حملة وقف الروبوتات القاتلة بين سبتمبر وديسمبر 2019 ، أثناء دراستها العليا في جامعة أوتاوا.


تم نشر المقالة الأصلية في Medium.com.

كارولين فوكس

رمز نقاط SKR

أوقف الروبوتات القاتلة

انضم إلينا

مواكبة آخر التطورات في حركة Stop Killer Robots.

انضم إلينا