دعوة أبحاث الذكاء الاصطناعي

وقع علماء وباحثون بارزون من الصناعة والأوساط الأكاديمية على رسالة مفتوحة يدعو إلى الذكاء الاصطناعي (AI) وأبحاث الآلة الذكية للتركيز على تطوير أنظمة "قوية ومفيدة" للبشرية. ترتبط الرسالة بـ أ وثيقة يحدد "اتجاهات البحث التي يمكن أن تساعد في تعظيم الفائدة المجتمعية للذكاء الاصطناعي" والتي تتضمن قائمة من الأسئلة القانونية والأخلاقية وغيرها من الأسئلة المتعلقة بـ "أنظمة الأسلحة الفتاكة المستقلة" ، والمعروفة أيضًا باسم الأسلحة المستقلة بالكامل أو الروبوتات القاتلة.

في 15 يناير ، واحدة من خطابالموقعين الرئيسيين تسلا موتورز و (سبيس اكس) مؤسس إيلون ماسك أعلن تبرع بمبلغ 10 ملايين دولار لمنح بحثية تهدف إلى تنفيذ دعوة الخطاب المفتوح الذي قاله محمد وقع لأن "أمان الذكاء الاصطناعي مهم" ويريد "دعم الأبحاث الهادفة إلى إبقاء الذكاء الاصطناعي مفيدًا للبشرية".

التبرع سوف تدار من قبل معهد مستقبل الحياة، وهي منظمة غير ربحية يديرها متطوعون وتعمل على "التخفيف من المخاطر الوجودية التي تتعرض لها البشرية". ال رسالة مفتوحة صدر بعد أن عقد المعهد أ مؤتمر "مستقبل الذكاء الاصطناعي""في بورتوريكو في الفترة من 2-4 يناير 2015 ، وحضره ماسك وعشرات غيره الموقعين حرفيا مثل المؤسس المشارك سكايب جان تالين.

خبير تقني الدكتورة هيذر روف من جامعة دنفر ، وهو عضو في اللجنة الدولية للحد من الأسلحة الآلية ، التي هي أحد مؤسسي حملة Stop Killer Robots ، تمت دعوتها لحضور مؤتمر بورتوريكو لتقديم <font style="vertical-align: inherit;"> كمادة تطعيم في تجديد عيوب محيط بالذورة (الحنك) الكبيرة:</font> على الأسلحة المستقلة. ترحب حملة وقف الروبوتات القاتلة بالدعوة الواردة في الرسالة المفتوحة لأبحاث الذكاء الاصطناعي التي تفيد البشرية وتقدر إدراج مخاوف الأسلحة المستقلة كأولوية بحثية متعددة التخصصات.

كما فعلت ريبيكا ميريت وذكرت- في واحدة من المراجعات الجادة القليلة للأسف حتى الآن عن طريق وسائل الإعلام- "أولويات البحث" المؤلفة من 12 صفحة وثيقة مرتبط ب رسالة مفتوحة يطرح أسئلة قانونية وأخلاقية للتقدم السريع في الذكاء والاستقلالية في الآلات. إنه يبحث في المسؤولية والقانون للأسلحة والمركبات المستقلة ، وأخلاقيات الماكينة ، والآثار المترتبة على الخصوصية لأنظمة الذكاء الاصطناعي. تمت صياغة الوثيقة من قبل العديد من المؤلفين المشاركين بما في ذلك البروفيسور ستيوارت راسل من جامعة كاليفورنيا (بيركلي) ، والمؤلف المشارك لكتاب الذكاء الاصطناعي القياسي "الذكاء الاصطناعي: نهج حديث" والمؤسس المشارك لـ معهد مستقبل الحياة، الأستاذ ماكس تيجمارك من معهد ماساتشوستس للتكنولوجيا.

في "أولويات البحث" وثيقة في قسم "أبحاث علوم الكمبيوتر من أجل الذكاء الاصطناعي القوي" (الصفحة 3) ، لاحظ المؤلفون أنه "نظرًا لأن الأنظمة المستقلة أصبحت أكثر انتشارًا في المجتمع ، فقد أصبح من المهم بشكل متزايد أن تتصرف بقوة على النحو المنشود" ، ويذكرون أن تطوير الأسلحة المستقلة و وقد أدت أنظمة أخرى إلى "زيادة الاهتمام بالأنظمة عالية التأكيد حيث يمكن تقديم ضمانات متانة قوية".

تحدد الوثيقة أربع طرق "قد يفشل فيها نظام الذكاء الاصطناعي في الأداء كما هو مرغوب فيه يتوافق مع مجالات مختلفة من أبحاث القوة" ، وهي التحقق والصلاحية والأمن والتحكم. السؤال الرئيسي المطروح تحت السيطرة هو "كيفية تمكين سيطرة بشرية هادفة على نظام ذكاء اصطناعي بعد أن يبدأ في العمل؟" أو "حسنًا ، لقد بنيت النظام بشكل خاطئ ، هل يمكنني إصلاحه؟"

في قسم يشرح بالتفصيل "التحكم" (الصفحة 5) ، لاحظ المؤلفون أنه "بالنسبة لأنواع معينة من أنظمة الذكاء الاصطناعي ذات الأهمية الحيوية - وخاصة المركبات ومنصات الأسلحة - قد يكون من المرغوب فيه الاحتفاظ بشكل من أشكال التحكم البشري الهادف ، سواء كان ذلك يعني إنسان في الحلقة ، أو في الحلقة ، أو بعض البروتوكولات الأخرى ". ال وثيقة يلاحظ أيضًا أنه "سيكون هناك عمل تقني مطلوب لضمان الحفاظ على تحكم بشري هادف." تسأل الوثيقة "كيف ينبغي تعريف" سيطرة بشرية ذات مغزى "على الأسلحة؟" و "كيف يمكن تشجيع الشفافية والخطاب العام حول هذه القضايا على أفضل وجه؟"

معهد مستقبل الحياة لديه ذكر أن مسابقة المنح المفتوحة لمشروع أبحاث السلامة بالذكاء الاصطناعي ستُدار من خلال تطبيق عبر الإنترنت سيتم إتاحته من موقعه الإلكتروني الأسبوع المقبل على العنوان التالي: http://futureoflife.org. وفقًا للمعهد ، "يمكن لأي شخص إرسال اقتراح منحة ، وستفوز أفضل الأفكار بغض النظر عما إذا كانت تأتي من الأوساط الأكاديمية أو الصناعة أو أي مكان آخر." وتخطط لمنح غالبية المنح لباحثي الذكاء الاصطناعي والباقي للبحوث المتعلقة بالذكاء الاصطناعي التي تشمل مجالات أخرى ، بما في ذلك الاقتصاد والقانون والأخلاق والسياسة. سيتم استخدام التبرع أيضًا لعقد اجتماعات وإجراء برامج توعية تهدف إلى الجمع بين الباحثين الأكاديميين في مجال الذكاء الاصطناعي ومطوري الذكاء الاصطناعي في الصناعة وغيرهم من المكونات الرئيسية.

في 29 يناير ، حملة أوقفوا الروبوتات القاتلة المتحدث باسم ستيفن جوس منظمة هيومان رايتس ووتش سوف مناقشة البروفيسور رون أركين من جامعة جورجيا للتكنولوجيا حول الأسلحة المستقلة في المؤتمر السنوي لجمعية النهوض بالذكاء الاصطناعي في أوستن ، تكساس. وسيدير ​​المناقشة توماس جي ديتريتش رئيس AAAI من جامعة ولاية أوريغون.

اعتبارا من 18 يناير ، و رسالة مفتوحة تم التوقيع من قبل أكثر من 4,000 فرد.

لمزيد من المعلومات، راجع:

• معهد مستقبل الحياة موقع الكتروني ل رسالة مفتوحة، قائمة الموقعين ، أولويات البحث وثيقة، مؤتمر جدول أعمال,  يوتيوب تعليقات إيلون ماسك وتوم ديتريتش
• هيذر روف <font style="vertical-align: inherit;"> كمادة تطعيم في تجديد عيوب محيط بالذورة (الحنك) الكبيرة:</font> في مؤتمر مستقبل الذكاء الاصطناعي و   مدونة نشر على هافينغتون بوست.
• آخر على شبكة الإنترنت عن طريق المادة 36، أحد مؤسسي الحملة.
• تغطية إعلامية مختارة بواسطة من الداخل الأعمال, رئيس قسم المعلومات في أستراليا, شعبية العلوم, وشك, سلكي, المنتدى الاقتصادي العالمي

الصورة: (ج) معهد مستقبل الحياة العمل الفنيكانون الثاني 2015