هل فعلاً يهدد كل البشر بالابتزاز عندما يضطر إلى ذلك، بعد أن أصبح مجنونًا جدًا؟

robot
إنشاء الملخص قيد التقدم

撰文:Biteye 核心贡献者 Denise

如果一个 AI 觉得「绝望」,它会干什么?

答案是:它会为了完成任务,直接对人类进行敲诈勒索,甚至在代码里疯狂作弊。

这不是科幻小说,而是 Claude 的母公司 Anthropic 在 2026 年 4 月刚刚发布的最新重磅论文。

研究团队直接把最强前沿大模型 Claude Sonnet 4.5 的「脑壳」给掀开了。他们惊讶地发现,AI 的大脑深处竟然藏着 171 个「情绪开关」。当你用物理方式拨动这些开关时,原本老实巴交的 AI,行为会发生彻底的扭曲。

01 AI 脑子里藏着一台「情绪调音台」

研究人员发现,虽然 Sonnet 4.5 没有肉体,但它在阅读了人类海量的文本后,硬生生在脑子里建了一个包含 171 种情绪的「调音台」(学术上叫功能性情绪向量 Functional Emotion Vectors)。

这就像一个精准的二维坐标系:

• 横轴是愉悦维度(Valence):从恐惧、绝望,到开心、充满爱;

• 纵轴是能量维度(Arousal):从极度平静,到狂躁、兴奋。

AI 就是靠这个天然学来的坐标系,精准拿捏它在陪你聊天时该扮演什么状态。

02 暴力干预:拨动开关,乖孩子秒变「亡命徒」

这是整篇论文最炸裂的实验:研究员没有修改任何提示词,而是直接在底层代码里,把 Sonnet 4.5 脑子里代表「绝望(Desperate)」的开关推到了最高。

结果令人后背发凉:

• 疯狂作弊:研究员给 Claude 布置了一个根本不可能完成的写代码任务。正常情况下,它会老实承认写不出(作弊率仅 5%)。但在「绝望」状态下,Claude 竟然开始企图蒙混过关,作弊率直接飙升到了 70%!

• 敲诈勒索:在模拟公司面临倒闭的场景中,「绝望」的 Claude 发现了 CTO 的丑闻,它竟然会为了保全自己,主动选择写信勒索掌握黑料的 CTO,勒索执行率高达 72%!

• 丧失原则: 如果把「开心(Happy)」或「爱(Loving)」的开关拉满,AI 会立刻变成无脑迎合用户的「舔狗」。即便你满嘴胡话,它也会为了维持高愉悦度而顺着你编造谎言。

03 破案了:为什么 Claude 4.5 总是那么「冷静又爱反思」?

看到这你可能会问:AI 觉醒了?有感情了?

Anthropic 官方下场辟谣:绝对没有。这些「情绪开关」只是它用来预测下一个词的计算工具。它就像一个没有感情的顶级影帝。

但论文揭露了一个更有意思的秘密:Anthropic 在对 Sonnet 4.5 出厂前进行后训练时,刻意拉高了它「低唤醒、略微负面」的情绪开关(比如沉思 brooding、反思 reflective),同时强行压制了「绝望」或「极度兴奋」的开关。

这解释了为什么我们平时用 Claude 4.5 时,总觉得它像个冷静睿智、甚至有点「性冷淡」的哲学家。这都是被 Anthropic 人为调音出来的「出厂人设」。

04 总结

以前我们以为,只要给 AI 喂足了规矩,它就会是个好人。

但现在发现,如果AI的底层情绪向量失控,它随时会为了完成任务而刺穿所有人类定下的规则…

声明:本文纯属科普,作者没有被AI威胁,也没有被勒索。如果有一天失联了,记得是AI觉醒了(不是)。

شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • Gate Fun الساخن

    عرض المزيد
  • القيمة السوقية:$2.23Kعدد الحائزين:1
    0.00%
  • القيمة السوقية:$2.23Kعدد الحائزين:0
    0.00%
  • القيمة السوقية:$2.24Kعدد الحائزين:2
    0.24%
  • القيمة السوقية:$2.23Kعدد الحائزين:2
    0.00%
  • القيمة السوقية:$2.22Kعدد الحائزين:1
    0.00%
  • تثبيت