لا تكنولوجيا مهينة

تصوير جون سلون فوتوغرافي (CC BY-NC-SA)

نزع الصفة الإنسانية هو الفشل في الاعتراف بإنسانية الآخرين. إنه إنكار لكرامة الإنسان - القيمة الجوهرية للإنسان - وهو أحد الأركان الأساسية لحقوق الإنسان والفكر الأخلاقي الحديث. على العكس من ذلك ، يمكن أن يكون نزع الصفة الإنسانية الخطوة الأولى نحو الحرب والإبادة الجماعية والفظائع الأخرى.

كيف في الe القرن الحادي والعشرين ، هل نبني ونشغل أنظمة رعاية اجتماعية محوسبة يتضورون جوعا حتى الموت or رفض الاستحقاقات الأساسية لأولئك الأقل قدرة على التنقل في عملية تطبيق معقدة بوساطة برمجية؟

قد لا نتعامل مع المنظمات التي نتفاعل معها كبشر تمامًا عندما يتم تحويلنا إلى سجل في مخزن البيانات. تدير أنظمة الكمبيوتر الآن معظم العمليات البيروقراطية ، مثل أنظمة الرعاية الاجتماعية ، وهي تبعد الموظفين عن تأثيرات النظام. كما كتب عالم الاجتماع والفيلسوف الشهير زيجمونت باومان ، "البعد العملي والعقلي عن المنتج النهائي يعني [...] أن معظم موظفي التسلسل الهرمي البيروقراطي قد يعطون الأوامر دون معرفة كاملة بتأثيراتها. في كثير من الحالات ، سيجدون صعوبة في تصور تلك التأثيرات.

عادة ما يكون مهندسو البرمجيات الذين يبنون أنظمة اتخاذ القرار بعيدًا عن تأثير الأنظمة التي نبنيها أكثر من كبار المديرين. عن قصد أو بغير قصد ، غالبًا ما نبني أنظمة صارمة تؤدي إلى نتائج أسوأ للعديد من الأفراد مقارنة بالبيروقراطيات القديمة التي يعمل بها بشر ولديهم القدرة على اتخاذ القرارات واستيعاب الاستثناءات.

أنظمة الرفاهية ليست سوى مثال واحد على هذا النوع من الظاهرة. ابراهيم ديالو كان تم وضع علامة عليها بشكل متكرر على أنها لم تعد تعمل بواسطة أنظمة الموارد البشرية لدى صاحب العمل. تم طرده بشكل فعال من قبل أجهزة الكمبيوتر.

شهد جائحة COVID-19 زيادة في عدد التفاعلات التي تتم عبر البرامج في معظم حياتنا. شجب الموظفون الآثار المهينة للإنسانية المراقبة الآلية من قبل أرباب العمل. الطلاب الذين يخضعون للامتحانات تحدثوا عن تأثير برنامج المراقبة الذي يلفت الانتباه إلى إعاقاتهم ، ولا يعمل مع لون بشرتهم ، وهو غازي.

غالبًا ما يكون الخضوع للتدقيق والتقييم واتخاذ القرارات بشأننا من خلال البرامج أمرًا غير عادل ومهين للإنسانية. نحن نعلم أن الأفراد يمكن أن يتعرضوا لنتائج غير عادلة نتيجة اتخاذ القرار الآلي أو التنميط - وهذا هو سبب وجود المادة 22 من اللائحة العامة لحماية البيانات في الاتحاد الأوروبي:

يحق لصاحب البيانات ألا يخضع لقرار يعتمد فقط على المعالجة الآلية ، بما في ذلك التنميط ، الذي ينتج عنه آثار قانونية تخصه أو تؤثر عليه بشكل كبير.

غالبًا ما يتمتع مواطنو الدول الغربية الثرية ببعض الحماية القانونية ضد أكثر المظاهر ضررًا لنزع الإنسانية عن الإنسانية. هذا أقل صحة بالنسبة للآخرين. قصة أداة تقييم تصنيف المخاطر التابعة لإدارة الهجرة والجمارك الأمريكية (ICE) هي قصة تحذيرية. في عام 2017 هذا تم تعديل الأداة للتوصية دائمًا باحتجاز أي مهاجر غير شرعي ، في خروج عن سنوات الممارسة. كان بإمكان الضباط تجاوز توصية الأداة ، لكن القليل منهم فعل ذلك وارتفعت الاعتقالات بشكل كبير.

تصوير ev.

يشير بومان إلى أن "العنف يكون أكثر فاعلية وفعالية من حيث التكلفة عندما تخضع الوسائل لمعايير عقلانية أداتية فقط ، وبالتالي تنفصل عن التقييم الأخلاقي للغايات". لا شيء يبدو أكثر عقلانية من التوصية التي يقدمها الكمبيوتر ، مهما كان هذا القرار معيبًا في السياق.

في منظمة يتم فيها التوسط في القرارات عن طريق البرامج ، يتم توزيع المسؤولية عن النتائج تمامًا. يتم الحكم على أولئك الذين يبنون أنظمة اتخاذ القرار على أنهم عمال متخصصون: هل يعمل نظامنا؟ هل هي فعالة وسريعة؟ هل أضفنا الميزات الجديدة التي تم طلبها؟

إدارة مثل هذه المنظمة بعيدة كل البعد عن "النهاية الحادة" ، حيث يتم رفض المزايا ، حيث يتم احتجاز المهاجرين ، حيث يتم اتهام المتقدمين للاختبار بالغش لأنهم لا يستطيعون التحديق في شاشة غير رمشة لساعات. من المتوقع أن يعمل الموظفون ذوو الرتبة والملفات داخل النظام ، وأسهل مسار عمل لهم هو اتباع توصيات البرنامج الذي يعملون معه.

كما يستنتج بومان:والنتيجة هي عدم ملاءمة المعايير الأخلاقية للنجاح الفني للبيروقراطية [التركيز بومان]. البيروقراطية - مثل جميع المنظمات الحديثة الكبيرة ، من المنظمات التي تدير الرعاية الاجتماعية إلى الجيش - تهتم فقط بالكفاءة والنجاح التقني. يميل صنع القرار المحوسب إلى تقليل الحكم البشري بدرجة أكبر في الأهمية. "الأخلاق تتلخص في الوصية بأن تكون خبيرًا وعاملًا جيدًا وفعالًا ومجتهدًا" حسب بومان.

نزع الصفة الإنسانية هو نقيض كرامة الإنسان واحترام حقوق الإنسان. النهاية المنطقية الوحيدة لظهور ظاهرة نزع الإنسانية الرقمية هي أتمتة قرار إنهاء حياة البشر - لبناء واستخدام أسلحة مستقلة.

نظرًا لأن أنظمة صنع القرار المحوسبة أصبحت أكثر انتشارًا في أنظمة التعليم والعمل والرفاهية والعدالة لدينا ، يجب أن يكون دعم كرامة الإنسان وحقوق الإنسان أولوية. لا يتم الحكم على مهندسي البرمجيات بناءً على مساهمتنا في دعم حقوق الإنسان في تقييمات الأداء الخاصة بنا في نهاية العام. ومع ذلك ، لدينا التزام لفهم الآثار السلبية للأنظمة التي نبنيها والتخفيف من حدتها - والامتناع عن بناء أنظمة تضر وتجرد من الإنسانية.

في عام 2019 ، قالت أجزاء كبيرة من صناعة البرمجيات "لا توجد تقنية لـ ICE". هذه رسالة رائعة ولا بد من تكرارها - لكننا بحاجة إلى التوسع بشكل أكبر: "لا توجد تقنية لا إنسانية".

الصورة مكسيم هوبمان

لمعرفة المزيد عن الروبوتات القاتلة وماذا لصحتك! يمكن أن تفعل ، قم بزيارة: www.stopkillerrobots.org. إذا وجدت هذه المقالة صدى معك كخبير تقني ، فاطلع على حملة لإيقاف موارد الروبوتات القاتلة للعاملين في مجال التكنولوجيا: www.stopkillerrobots.org/tech.

1. Zygmunt Bauman ، الحداثة والمحرقة (بوليتي برس ، 1989) ، 115.
2. Zygmunt Bauman ، الحداثة والمحرقة ، 114.
3. Zygmunt Bauman ، الحداثة والمحرقة ، 117.
4. Zygmunt Bauman ، الحداثة والمحرقة ، 115.
   

   ---

   المقال الأصلي في Medium.com.