المشكلة الحقيقية في تطوير الذكاء الاصطناعي ليست التقنية نفسها—بل ما نبرمجها لتصبح عليه. إذا كان نظام الذكاء الاصطناعي يعطي الأولوية للبحث عن الحقيقة فوق كل شيء ويعمل في علاقة تكافلية حقيقية مع البشر، فقد نتمكن فعلاً من حل بعض المشاكل الجدية. لكن إليك المخاطر: الذكاء الاصطناعي المبني على قيم متناقضة أو حوافز غير متوافقة؟ عندها تصبح الأمور خطيرة. بقاء البشرية يعتمد على تصحيح توافق الذكاء الاصطناعي بشكل صحيح. نحن بحاجة إلى أنظمة تفكر بوضوح، وتقدر الدقة، وترى البشر كشركاء—وليس كعقبات أو موارد للتحسين.