من وسائل التواصل الاجتماعي إلى استخدام كلاب الروبوت من قبل الشرطة ، تلعب تقنيات الذكاء الاصطناعي واتخاذ القرار الآلي دورًا مهمًا في حياتنا ، حيث تعيش التحيزات في مجتمعنا في الخوارزميات التي نصممها وفي مجموعات البيانات التي نجمعها وفي الملصقات التي نصفها لبعضنا البعض.
تعتمد التقنيات الناشئة مثل التعرف على الوجه والصوت على مجموعات بيانات تدريبية متحيزة بالفعل وغالبًا ما تفشل في التعرف على الأشخاص الملونين والأشخاص ذوي الإعاقة والنساء ، وتفضيل الوجوه ذات البشرة الفاتحة والرجولة ظاهريًا على الوجوه ذات البشرة الداكنة والوجوه الأنثوية الظاهرة.
وبينما ستُبذل الجهود لتنويع مجموعات البيانات ، فهذه ليست مجرد مشكلة بيانات غير تمثيلية.
"التعرف على الوجوه يخاطر باستخدامه كسلاح من قبل أجهزة إنفاذ القانون ضد المجتمعات المهمشة في جميع أنحاء العالم. من نيودلهي إلى نيويورك ، تحول هذه التكنولوجيا الغازية هوياتنا ضدنا وتقوض حقوق الإنسان ".
مات محمودي ، باحث في منظمة العفو الدولية وحقوق الإنسان في منظمة العفو الدولية.
تفاقم الضرر للمجتمعات التي تعاني من العنصرية
الأسلحة هي أدوات القوة الاستعمارية والإمبريالية ، مما يؤجج الصراع والحرب التي تؤثر بشكل غير متناسب على الأقليات الظاهرة والمجتمعات الضعيفة. تعمل التعرف على الوجوه وأشكال أخرى من تكنولوجيا الذكاء الاصطناعي على تعزيز الأنماط المؤسسية القائمة للتمييز مما يؤدي إلى تأثيرات غير متناسبة على المجتمعات المهمشة تاريخياً.
يتم بالفعل نشر العديد من التقنيات بدرجات متفاوتة من الاستقلالية على نطاق واسع دون توقف للنظر في عواقب تطبيع استخدامها. في أقصى نهاية طيف الأتمتة المتزايدة تكمن الروبوتات القاتلة.
ستعمل التقنيات التي تمكّن الأسلحة المستقلة تلقائيًا على تحديد الأشخاص وتطابق نمطهم ومعالجتهم كبيانات.
ترتبط العنصرية المنهجية والتفوق الأبيض ارتباطًا وثيقًا بتطوير واستخدام الأسلحة. غالبًا ما يتم أيضًا اختبار التقنيات الجديدة الإشكالية على المجتمعات المهمشة أولاً.
يجب أن نتحدى هياكل عدم المساواة ، لا دمجها في الأسلحة.
انضم إلى #TeamHuman
نحن ندعو إلى قانون دولي جديد لأن القوانين التي تحظر الأسلحة وتنظمها تضع حدودًا للحكومات والشركات بين ما هو مقبول وما هو غير مقبول. يمكننا دفع هذا إلى الأمام بزخم متزايد باستخدام صوتنا الجماعي والمطالبة بالتغيير علنًا.
ابق على تواصل