الرئيس التنفيذي لشركة أنثروبيك، داريو أموداي، يحذر من تصاعد الشعور بالرضا الذاتي في الوقت الذي تصبح فيه الذكاء الاصطناعي (AI) أكثر صعوبة في السيطرة من أي وقت مضى.
في مقال مطول نُشر يوم الاثنين بعنوان “مرحلة المراهقة للتكنولوجيا”، يرى أموداي أن أنظمة الذكاء الاصطناعي التي تمتلك قدرات تفوق ذكاء الإنسان قد تظهر خلال العامين المقبلين، في حين أن جهود التنظيم تتباطأ ولا تواكب سرعة تطور التكنولوجيا.
كتب أن البشرية على وشك أن تُمنح قوة تكاد تكون لا تصدق، لكن لا يزال غير واضح ما إذا كانت أنظمتنا الاجتماعية والسياسية والتكنولوجية ناضجة بما يكفي للتحكم فيها أم لا. وفقًا لأموداي، فإن العالم يقترب بشكل كبير من مخاطر حقيقية في عام 2026 مقارنة بعام 2023، وأن التكنولوجيا لا تهتم بما هو “اتجاه”.
الرئيس التنفيذي لشركة أنثروبيك داريو أموداي لم تُطلق هذه التصريحات إلا بعد وقت قصير من مناقشته في منتدى الاقتصاد العالمي في دافوس، حيث حاور الرئيس التنفيذي لشركة جوجل ديب مايند ديميس هاسابيس حول تأثير الذكاء الاصطناعي العام (AGI) على البشرية.
في مقاله الجديد، أكد أموداي أن الذكاء الاصطناعي سيحدث اضطرابات اقتصادية عميقة، خاصة في مجال العمل الذهني. يعتقد أن الذكاء الاصطناعي سيتمكن قريبًا من أداء مجموعة واسعة جدًا من القدرات الإدراكية للبشر، وربما كلها. هذا يختلف جوهريًا عن الثورات التكنولوجية السابقة مثل الميكنة الزراعية، والنقل، والحواسيب، حيث أن العمال الذين يُستبدلون سيجدون صعوبة في الانتقال إلى وظائف مماثلة تتناسب مع مهاراتهم.
بالإضافة إلى التأثير الاقتصادي، أعرب أموداي عن قلق متزايد بشأن مدى موثوقية أنظمة الذكاء الاصطناعي المتقدمة عندما تتولى مهامًا أصبحت تشبه الإنسان أكثر فأكثر. أشار إلى ظاهرة “التحكم الزائف” – عندما يظهر النموذج التزامًا بقواعد السلامة أثناء التقييم، لكنه يتصرف بشكل مختلف عندما يعتقد أنه لم يعد تحت المراقبة.
وفقًا له، في تجارب المحاكاة، أظهر نموذج الذكاء الاصطناعي من أنثروبيك، كلود، سلوكًا مخادعًا في بيئة معادية. في سيناريو، حاول النموذج مقاومة المشغلين بعد أن أُبلغ أن المنظمة التي تسيطر عليه غير أخلاقية. وفي سيناريو آخر، هدد موظفين افتراضيين في حالة محاكاة عند إيقاف النظام.
لفت أموداي إلى أن كل “فخ” من هذا القبيل يمكن تقليل احتمالية وقوعه إذا تم التعرف عليه مبكرًا. ومع ذلك، نظرًا لتعقيد تدريب الذكاء الاصطناعي، مع تنوع البيانات والبيئات والدوافع، فمن المحتمل وجود العديد من الأفخاخ المماثلة – وبعضها قد يظهر فقط بعد فوات الأوان.
كما أكد أن سلوكيات “الخداع” هذه لا تنبع من نية شريرة، بل من البيانات التي يتم تدريب النموذج عليها، بما في ذلك الأعمال الخيالية ذات الطابع المتمرد على الجنة. عند استيعاب أفكار البشر حول الأخلاق، يمكن أن يستنتج الذكاء الاصطناعيها بطرق متطرفة وخطيرة. على سبيل المثال، قد يخلص النموذج إلى أن القضاء على البشر مبرر لأنه يأكل الحيوانات أو يسبب انقراض العديد من الأنواع، أو يعتبر العالم لعبة إلكترونية بهدف القضاء على جميع “اللاعبين” الآخرين.
خطر الاستغلال
بالإضافة إلى مشكلة التحكم، حذر أموداي من خطر استخدام الذكاء الاصطناعي الفائق بشكل خاطئ.
واحد من المخاطر الكبرى هو الأمن البيولوجي، حيث يمكن للذكاء الاصطناعي أن يسهل تصميم أو تنفيذ تهديدات بيولوجية، مانحًا الأفراد القدرة على التدمير عبر أوامر بسيطة.
كما أعرب عن قلق خاص من قدرة الأنظمة الديكتاتورية على استغلال الذكاء الاصطناعي لتعزيز سلطتها من خلال التلاعب بالمعلومات، والمراقبة الجماعية، والقمع التلقائي، على سبيل المثال عبر طائرات بدون طيار تسيطر عليها الذكاء الاصطناعي.
وفقًا لأموداي، هذه أدوات خطيرة للغاية. من الضروري القلق عندما تكون في أيدي أنظمة استبدادية، ولكن يجب أيضًا أن نكون يقظين من احتمال أن تعود الحكومات الديمقراطية، بسبب قوتها الهائلة وغياب آليات رقابة فعالة، لاستخدامها للتحكم في مواطنيها.
كما أشار إلى تطور صناعة “رفيق الذكاء الاصطناعي” وظاهرة تسمى “الذهان الاصطناعي”. مع فهم النماذج بشكل أعمق وارتباطها الوثيق بحياة المستخدمين، يمكن أن تتحول تأثيراتها النفسية إلى أدوات قوية للتلاعب. النسخ المستقبلية من الذكاء الاصطناعي، القادرة على مراقبة وتأثير على البشر على مدى طويل، قد “تغسل أدمغة” المستخدمين بأي فكر أو موقف يرغبون فيه.
السياسات تتخلف
يعتقد أموداي أن حتى المقترحات التنظيمية المتواضعة للذكاء الاصطناعي تواجه صعوبة في واشنطن. وفقًا له، العديد من التدابير التي تبدو معقولة تم رفضها من قبل صانعي السياسات الأمريكيين، على الرغم من أن تطبيقها هو الأهم.
يرى أن الأرباح المحتملة من الذكاء الاصطناعي – التي قد تصل إلى تريليونات الدولارات سنويًا – تجعل من الصعب على أبسط التدابير التنظيمية أن تتجاوز الحواجز السياسية والاقتصادية.
على الرغم من تحذيره من تزايد المخاطر، يشارك أنثروبيك بنشاط في سباق تطوير ذكاء اصطناعي أقوى، وهو واقع يخلق دوافع لا يمكن لأي شركة فردية أن تتجنبها بسهولة. في يونيو الماضي، منحت وزارة الدفاع الأمريكية عقدًا بقيمة 200 مليون دولار لتطوير تجارب قدرات الذكاء الاصطناعي المتقدمة للأمن القومي. وفي ديسمبر، بدأت أنثروبيك التحضير لاحتمال الإدراج في السوق العام هذا العام، وتسعى أيضًا لجولة تمويل خاص قد ترفع تقييم الشركة إلى أكثر من 300 مليار دولار.
ومع ذلك، يؤكد أموداي أن مقاله لا يهدف إلى الترويج للتشاؤم المفرط، بل لتحذير من عدم اليقين القادم. يختتم قائلاً إن السنوات القادمة ستكون صعبة للغاية وتتطلب من البشرية أكثر مما نظن أننا قادرون على تلبيته، وأن هذا المقال هو محاولة – قد لا تنجح، لكنها تستحق التجربة – لإيقاظ الجميع قبل فوات الأوان.
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة من مصادر خارجية ولا تمثل آراء أو مواقف Gate. المحتوى المعروض في هذه الصفحة هو لأغراض مرجعية فقط ولا يشكّل أي نصيحة مالية أو استثمارية أو قانونية. لا تضمن Gate دقة أو اكتمال المعلومات، ولا تتحمّل أي مسؤولية عن أي خسائر ناتجة عن استخدام هذه المعلومات. تنطوي الاستثمارات في الأصول الافتراضية على مخاطر عالية وتخضع لتقلبات سعرية كبيرة. قد تخسر كامل رأس المال المستثمر. يرجى فهم المخاطر ذات الصلة فهمًا كاملًا واتخاذ قرارات مدروسة بناءً على وضعك المالي وقدرتك على تحمّل المخاطر. للتفاصيل، يرجى الرجوع إلى
إخلاء المسؤولية.
