العرق والروبوتات القاتلة

نزع الإنسانية الرقمية والتحيز الحسابي

من وسائل التواصل الاجتماعي إلى استخدام كلاب الروبوت من قبل الشرطة ، تلعب تقنيات الذكاء الاصطناعي واتخاذ القرار الآلي دورًا مهمًا في حياتنا ، حيث تعيش التحيزات في مجتمعنا في الخوارزميات التي نصممها وفي مجموعات البيانات التي نجمعها وفي الملصقات التي نصفها لبعضنا البعض.

تعتمد التقنيات الناشئة مثل التعرف على الوجه والصوت على مجموعات بيانات تدريبية متحيزة بالفعل وغالبًا ما تفشل في التعرف على الأشخاص الملونين والأشخاص ذوي الإعاقة والنساء ، وتفضيل الوجوه ذات البشرة الفاتحة والرجولة ظاهريًا على الوجوه ذات البشرة الداكنة والوجوه الأنثوية الظاهرة.

وبينما ستُبذل الجهود لتنويع مجموعات البيانات ، فهذه ليست مجرد مشكلة بيانات غير تمثيلية.

"التعرف على الوجوه يخاطر باستخدامه كسلاح من قبل أجهزة إنفاذ القانون ضد المجتمعات المهمشة في جميع أنحاء العالم. من نيودلهي إلى نيويورك ، تحول هذه التكنولوجيا الغازية هوياتنا ضدنا وتقوض حقوق الإنسان ".

مات محمودي ، باحث في منظمة العفو الدولية وحقوق الإنسان في منظمة العفو الدولية.

تفاقم الضرر للمجتمعات التي تعاني من العنصرية

الأسلحة هي أدوات القوة الاستعمارية والإمبريالية ، مما يؤجج الصراع والحرب التي تؤثر بشكل غير متناسب على الأقليات الظاهرة والمجتمعات الضعيفة. تعمل التعرف على الوجوه وأشكال أخرى من تكنولوجيا الذكاء الاصطناعي على تعزيز الأنماط المؤسسية القائمة للتمييز مما يؤدي إلى تأثيرات غير متناسبة على المجتمعات المهمشة تاريخياً.

يتم بالفعل نشر العديد من التقنيات بدرجات متفاوتة من الاستقلالية على نطاق واسع دون توقف للنظر في عواقب تطبيع استخدامها. في أقصى نهاية طيف الأتمتة المتزايدة تكمن الروبوتات القاتلة.

ستعمل التقنيات التي تمكّن الأسلحة المستقلة تلقائيًا على تحديد الأشخاص وتطابق نمطهم ومعالجتهم كبيانات.

ترتبط العنصرية المنهجية والتفوق الأبيض ارتباطًا وثيقًا بتطوير واستخدام الأسلحة. غالبًا ما يتم أيضًا اختبار التقنيات الجديدة الإشكالية على المجتمعات المهمشة أولاً.

يجب أن نتحدى هياكل عدم المساواة ، لا دمجها في الأسلحة.

انضم إلى #TeamHuman

نحن ندعو إلى قانون دولي جديد لأن القوانين التي تحظر الأسلحة وتنظمها تضع حدودًا للحكومات والشركات بين ما هو مقبول وما هو غير مقبول. يمكننا دفع هذا إلى الأمام بزخم متزايد باستخدام صوتنا الجماعي والمطالبة بالتغيير علنًا.

ابق على تواصل

التقاطعية والعنصرية والروبوتات القاتلة

ما هو التقاطعية؟ ولماذا هو مهم عندما نناقش الروبوتات القاتلة والعنصرية؟ مع الجذور التاريخية والنظرية في النسوية السوداء والنساء الناشطات اللونيين ، فإن التقاطع هو مفهوم يعترف بجميع أشكال الاضطهاد مثل القدرة ، والطبقية ، وكراهية النساء ، والعنصرية ؛ ويفحص كيفية عمل هذه القمع معًا.

كيف تحارب Joy Buolamwini التحيز في الخوارزميات

كانت Joy Buolamwini ، طالبة الدراسات العليا في معهد ماساتشوستس للتكنولوجيا ، تعمل مع برنامج تحليل الوجه عندما لاحظت وجود مشكلة: لم يكتشف البرنامج وجهها لأن الأشخاص الذين قاموا بترميز الخوارزمية لم يعلموها للتعرف على مجموعة واسعة من درجات لون البشرة وهياكل الوجه. وهي الآن في مهمة لمكافحة التحيز في التعلم الآلي ، وهي ظاهرة تسميها "النظرة المشفرة". حديث مفتوح عن الحاجة إلى المساءلة في الترميز ... حيث تستحوذ الخوارزميات على المزيد والمزيد من جوانب حياتنا.

الروبوتات القاتلة وأفريقيا

مع ظهور الثورة الصناعية الرابعة ، غيّر عدد كبير من الابتكارات التكنولوجية الطريقة التي نعيش ونعمل بها. يشهد هذا الابتكار أيضًا طرقًا جديدة لخوض الحروب. لن يكون الجنود بشرًا ، بل روبوتات. يمكن لجيل جديد من الأسلحة المستقلة أو "الروبوتات القاتلة" تغيير تكنولوجيا الطائرات بدون طيار العسكرية بشكل كبير. الدكتور طومسون تشينغيتا ، خبير في قانون حقوق الإنسان ، يتحدث مع هيئة الإذاعة الجنوب أفريقية عن الروبوتات القاتلة ولماذا يجب على أولئك الذين يعيشون في إفريقيا وقادتهم السياسيين أن يهتموا بالاستقلالية في أنظمة الأسلحة.

الروبوتات القاتلة وحقوق الإنسان

ما هي الآثار التي ستخلفها الروبوتات القاتلة على حقوق الإنسان؟ رشا عبد الرحيم من منظمة العفو الدولية تشرح بالتفصيل بعض الآثار الحقوقية لأنظمة الأسلحة المستقلة.