كيف نطور ذكاء اصطناعي خارق "آمن" للبشر؟

? على ضوء الأباجورة -

ماذا سيحدث إذا نجحنا في تطوير ذكاء آلي خارق؟ في كتابه، Human Compatible: AI and the Problem ofControl، يجادل خبير الذكاء الاصطناعي ستيوارت راسل بأن الأساليب الحالية للذكاء الاصطناعي تسير في الاتجاه الخاطئ بشكل خطير، ويقترح اتجاها جديدا أكثر إنسانية لهذا المجال. يدافع راسل عن ما يسميه "الأنظمة الذكية الآمنة"، والتي صممت ليس فقط لتكون ذكية ولكن أيضا لتكون آمنة ومفيدة للبشرية. يطرح راسل عددا من القواعد لتطوير هذه الأنواع من الأنظمة، مثل منح أنظمة الذكاء الاصطناعي إمكانية الوصول إلى مجموعة واسعة من المعلومات حول العالم ومكان البشر فيه، وبرمجتهم على سؤال البشر دائما عما يجب عليهم كروبوتات فعله عندما لا يعرفون ماذا يفعلون، ومنحهم مهارات اجتماعية شبيهة بالإنسان حتى يتمكنوا من التواصل والعمل بشكل جيد مع البشر.