صورة بطل القائمة

قصص حقيقية

لورا

أهلا! أنا لورا ، مهندس برمجيات. أعيش في دبلن ، أيرلندا مع شريكي وقطتينا المدللتين تمامًا (على الرغم من أننا نحاول حاليًا شراء منزل عمره 170 عامًا على بعد ساعة من المدينة ، لأننا نعمل الآن عن بُعد معظم الوقت). خارج أوراق العمل والرهن العقاري ، أقضي حاليًا الكثير من الوقت في القراءة والدراسة ، لأنني أكتب رسالة ماجستير بدوام جزئي.

الإعلان المستهدف ، الموافقات على القروض المصرفية ، الشرطة التنبؤية ... الاستقلالية في الأسلحة ، الأتمتة أصبحت بشكل متزايد جزءًا من حياتنا. ما هي أنواع نزع الإنسانية الرقمية التي تقلقك أكثر ولماذا؟

أنا قلق بشأن التأثير التراكمي لكل ذلك! أكثر الأنظمة التي تثير القلق بشكل واضح هي تلك التي توجد فيها تأثيرات دراماتيكية على الأفراد - أشياء مثل الأسلحة ، وكذلك أي شيء متعلق بالشرطة أو العدالة.

ومع ذلك ، فإننا في كثير من الأحيان نبني برامج تقوض قدرة الناس على فهم عالمهم والسيطرة عليه عند الضرورة.

أعتقد أن فضيحة مكتب البريد في المملكة المتحدة الأخيرة هي مثال جيد على ذلك - فقد أظهر نظام Horizon للكمبيوتر في كثير من الأحيان نقصًا في الأموال المأخوذة في المكاتب المحلية ، مما يؤدي إلى اتخاذ إجراءات قانونية ضد مدراء البريد والموظفين المحليين. وقد تم استدعاء القضية برمتها واحدة من "أخطر حالات إساءة تطبيق العدالة في التاريخ الإنجليزي الحديث'.

كانت هناك بالتأكيد أوجه قصور أخلاقية من جانب مكتب البريد و Fujitsu ، ولكن أيضًا مفتاح الفوضى الكاملة هو حقيقة أن نظام Horizons لا يبدو أنه مصمم لمنح الأشخاص الذين يستخدمونه طريقة لفهم المعاملات في النظام وتصحيح المشاكل. لقد قوض بشكل أساسي استقلالية خادمات البريد المحلي وقدرتهن على فهم عالمهن وفقًا لشروطهن الخاصة. هذا تصميم برامج سيء. لا بد أنهم شعروا وكأنهم في إحدى قصص كافكا.

كل يوم الآن ، الناس محاصرون في نوع من كابوس التكنولوجيا الكافكاوية المصغرة مثل هذا ، سواء كان ذلك من خلال تشغيل برنامج مراقبة الامتحانات الافتراضي ، أو الحصول على تطبيق وظيفي من خلال غابة من المرشحات الآلية ، أو الحصول على مزايا قد يحق لهم الحصول عليها. لا ينبغي أن نبني برامج مثل هذه.

هل تعتقد أن بإمكان الأفراد إحداث فرق؟

بالتأكيد - التاريخ مليء بالأفراد الذين أحدثوا فرقًا - مارتن لوثر (من أطروحات 95) ، روزا باركس ، نيلسون مانديلا. اليوم لدينا أشخاص مثل غريتا ثونبرج ، التي بذلت الكثير من الطاقة في الحركة البيئية ؛ ومثل ماكس شريمس ، الذي يواصل تعديل قانون حماية البيانات الدولي. في أيرلندا ، حيث أعيش ، قمنا مؤخرًا بتغيير قوانيننا التقييدية للغاية بشأن الإجهاض ، وكان لذلك علاقة كبيرة بسافيتا هالابانافار ، التي توفيت للأسف في مستشفى أيرلندي لأن القوانين الأيرلندية كانت عقبة أمام الرعاية التي تحتاجها. كان زوج سافيتا وعائلتها أشخاصًا شجعانًا بشكل لا يُصدق تحدثوا علنًا ، وهذا غير مجرى التاريخ الأيرلندي.

جميع الأفراد الذين يتبرعون لحملة ما ، أو الذين يذهبون إلى المسيرات ، أو الذين ينظمون ، أو الذين يطرقون الأبواب ، أو الذين يكتبون رسائل إلى سياسيينا - كلنا مهمون أيضًا. لدينا القوة!

متى تعلمت لأول مرة عن الروبوتات القاتلة ، وماذا كان رأيك؟

الروبوتات القاتلة هي قضية شخصية للغاية بالنسبة لي. في عام 2017 ، عندما كنت أعمل في Google ، كجزء من الفريق الذي يدير البنية التحتية السحابية لـ Google ، طُلب مني القيام ببعض الأعمال لدعم مشروع مي Mن، مشروع وزارة الدفاع الأمريكية لأتمتة تحليل لقطات مراقبة الطائرات بدون طيار. لقد طُلب مني العمل في مشروع للحصول على شهادة أمان أعلى لمنصته السحابية من أجل تشغيل Maven داخليًا ، بدلاً من تشغيل أجهزة DoD الخاصة.

كان Maven عبارة عن عمل "سلسلة القتل" ، ولا شك في ذلك: فقد قام بتحليل اللقطات لتوليد البيانات التي يمكن استخدامها في تحديد الهدف واختياره. لم يكن هذا مجرد عمل رؤية كمبيوتر محايد أخلاقيا. بحلول عام 2020 ، كان الجيش الأمريكي وضع Maven على طائرات بدون طيار Gray Eagle لاكتشاف التهديدات بشكل مستقل. لا تبحث Maven عن أشياء عسكرية لا لبس فيها مثل الدبابات. إنه يبحث عن الأشخاص والمركبات ، بما في ذلك المركبات المدنية.

كان لدي رد فعل فوري وحشوي: لم أتمكن من العمل على هذا ، مهما كان بشكل غير مباشر. لن أساعد في بناء أو تشغيل أنظمة الكمبيوتر التي تختار الناس ليموتوا.

إن استهداف البشر في الصراع ليس شيئًا يجب أن نتمتع به: إنه أمر مهم للغاية ومعقد للغاية ويعتمد على السياق ومخاطر عالية جدًا.

كان عام 2020 صعبًا بعض الشيء حتى الآن. ما الذي يمنحك الأمل؟

لقد كانت العشرينيات بالتأكيد أوقاتًا ممتعة! لكن في الواقع ، هذا شيء يمنحني الأمل. نحن في زمن متقلب. ربما يمكننا استبدال "العادي" القديم بـ "العادي" الأفضل.

لماذا أنت جزء من حركة Stop Killer Robots؟

أنا جزء من هذه الحركة لأن لدي مسؤولية مهنية للتحدث علانية ، كخبير تقني. البرمجيات جيدة في القيام بالأعمال الروتينية وهي سيئة للغاية في العمل حيث يوجد أي غموض أو مناطق رمادية. لسوء الحظ ، غالبًا ما تفرغ شركات التكنولوجيا الكبيرة من قدرات التكنولوجيا ، مما يؤدي إلى الضرر. تعتبر Tesla التي تطلق على برنامج السيارة الخاص بها "Autopilot" مثالًا رائعًا على ذلك - إنه نظام تثبيت السرعة المتطور للغاية ، لكنه سمي على أنه قيادة ذاتية القيادة بالكامل. ألمانيا و كاليفورنيا طلب كلاهما من تسلا استخدام اسم مختلف للمنتج.

يجب استخدام البرامج بحذر شديد في أي نوع من الأعمال عالية المخاطر - والتي تتضمن بالتأكيد قرار استخدام القوة العسكرية. يجب أن تظل السيطرة البشرية الهادفة في المقدمة طوال الوقت.

رمز نقاط SKR

أوقف الروبوتات القاتلة

انضم إلينا

مواكبة آخر التطورات في حركة Stop Killer Robots.

انضم إلينا