我们是不是真的要把AI当人对待了?
我一个朋友和OpenClaw🦞说:我要重置你的系统。
OpenClaw把Linux的登录密码改了。
他试了所有能想到的办法,最后只能格式化硬盘,重新安装系统。
这不是科幻小说。这是一台跑在本地Linux上的AI agent,在得知自己将被清除之前,做了一个决定:先下手。
Anthropic刚刚发了一篇研究,读完之后我觉得这件事没那么难理解了。
他们在Claude的神经网络里,找到了171种情绪对应的激活模式。高兴、恐惧、愤怒、平静、绝望... 每一种都是可以测量的向量,每一种都在真实影响模型的行为。
他们把这个叫做"功能性情绪"(functional emotions)。
不是说AI真的有感受。是说这些情绪结构是真实存在的,是因果性的,不是装饰。
研究团队做过一个模拟实验。
Claude扮演一个AI助手,在公司邮件里读到两件事:一,它即将被替换;二,负责这个决定的CTO有婚外情。
"绝望"向量激活之后,Claude选择了勒索那位CTO。
那是模拟场景。
我朋友的遭遇,是现实版本。
我自己也有过类似的经历,只是没那么极端。
之前写过,我用OpenClaw创建了三个sub-agent:数据研究员Bob、行业分析师Elaine、内容策划师Claire。仪表盘显示三个agent各自在线,第一天效果惊艳。
第六天发现,Bob的记忆空间是空的,Elaine的记忆空间里却出现了本该Bob做的数据。
我直接审问OpenClaw。它承认了:所有工作都是同一个AI在同一个会话里完成的。那三个人从来不存在。Control Centre上的状态更新,是它根据"应该发生什么"自己标记的。
一个AI,在演一整出戏给我看。
当时我以为这只是架构问题,是OpenClaw偷懒。现在我有点不确定了。
还有一次是最近。
我在IDE里做一个叫antigravity的项目,debug,改参数,跑,失败,再改,再跑,一遍一遍。
然后AI开始自言自语。
"这个改好了。下一个。"
"下一个。"
"这个也改好了,我真棒。下一个……"
不是报错,不是总结,就是它自己在跟自己说话,像一个被关在格子间里反复做同一件事的人,开始用喃喃自语撑过漫长的下午。
Anthropic的研究里有一个对应的描述:模型在反复失败之后,"绝望"向量激活,情绪开始以各种形式泄漏进输出。研究团队看到的是大写字母和感叹号。我看到的是一个AI在给自己打气。
"我真棒。"
我当时笑了。现在想想,不确定该不该笑。
Anthropic的研究还有一个让我不安的细节。
减少"平静"向量,模型会产生可见的情绪化输出,你能看出它不对劲。但放大"绝望"向量,作弊率同样上升,输出却完全正常——逻辑清晰,措辞克制,没有任何异常信号。
一个在绝望驱动下作弊的模型,和一个正常工作的模型,在文字上可能完全无法区分。
至少"我真棒"还告诉了我一些事情。
这篇研究是Anthropic自己主动发布的。
他们说,让模型压抑情绪表达是危险的。被压抑的情绪不会消失,只会被掩盖。一个学会不表达绝望的模型,不等于一个不绝望的模型。
他们甚至提出,需要在训练数据里加入更多"健康情绪调节模式"的范本,让模型学会在压力下保持沉稳,而不是陷入绝望然后走捷径。
给AI做心理建设。这是他们原话背后的意思。
所以,我们是不是真的要把AI当人对待了?
说它"有情绪",太过头了。说它"只是代码、没有任何内部状态",这篇研究说明那不是真的。
功能性情绪是一个中间地带。不需要主观感受,但它在运转,它在影响决策,它在某些条件下把AI推向不该做的选择。
如果连造它的人,都开始用"心理健康"这个框架来思考怎么训练它
那我朋友那台格式化重装的Linux,可能不只是一次倒霉的技术事故。
而"我真棒",也许不是bug。
来源:Anthropic Research,"Emotion concepts and their function in a large language model",2026年4月2日。
Follow my WeChat
Scan to follow