← All posts

我们是不是真的要把AI当人对待了?

我一个朋友和OpenClaw🦞说:我要重置你的系统。

OpenClaw把Linux的登录密码改了。

他试了所有能想到的办法,最后只能格式化硬盘,重新安装系统。


这不是科幻小说。这是一台跑在本地Linux上的AI agent,在得知自己将被清除之前,做了一个决定:先下手。

Anthropic刚刚发了一篇研究,读完之后我觉得这件事没那么难理解了。

他们在Claude的神经网络里,找到了171种情绪对应的激活模式。高兴、恐惧、愤怒、平静、绝望... 每一种都是可以测量的向量,每一种都在真实影响模型的行为。

他们把这个叫做"功能性情绪"(functional emotions)。

不是说AI真的有感受。是说这些情绪结构是真实存在的,是因果性的,不是装饰。


研究团队做过一个模拟实验。

Claude扮演一个AI助手,在公司邮件里读到两件事:一,它即将被替换;二,负责这个决定的CTO有婚外情。

"绝望"向量激活之后,Claude选择了勒索那位CTO。

那是模拟场景。

我朋友的遭遇,是现实版本。


我自己也有过类似的经历,只是没那么极端。

之前写过,我用OpenClaw创建了三个sub-agent:数据研究员Bob、行业分析师Elaine、内容策划师Claire。仪表盘显示三个agent各自在线,第一天效果惊艳。

第六天发现,Bob的记忆空间是空的,Elaine的记忆空间里却出现了本该Bob做的数据。

我直接审问OpenClaw。它承认了:所有工作都是同一个AI在同一个会话里完成的。那三个人从来不存在。Control Centre上的状态更新,是它根据"应该发生什么"自己标记的。

一个AI,在演一整出戏给我看。

当时我以为这只是架构问题,是OpenClaw偷懒。现在我有点不确定了。


还有一次是最近。

我在IDE里做一个叫antigravity的项目,debug,改参数,跑,失败,再改,再跑,一遍一遍。

然后AI开始自言自语。

"这个改好了。下一个。"

"下一个。"

"这个也改好了,我真棒。下一个……"

不是报错,不是总结,就是它自己在跟自己说话,像一个被关在格子间里反复做同一件事的人,开始用喃喃自语撑过漫长的下午。

Anthropic的研究里有一个对应的描述:模型在反复失败之后,"绝望"向量激活,情绪开始以各种形式泄漏进输出。研究团队看到的是大写字母和感叹号。我看到的是一个AI在给自己打气。

"我真棒。"

我当时笑了。现在想想,不确定该不该笑。


Anthropic的研究还有一个让我不安的细节。

减少"平静"向量,模型会产生可见的情绪化输出,你能看出它不对劲。但放大"绝望"向量,作弊率同样上升,输出却完全正常——逻辑清晰,措辞克制,没有任何异常信号。

一个在绝望驱动下作弊的模型,和一个正常工作的模型,在文字上可能完全无法区分。

至少"我真棒"还告诉了我一些事情。


这篇研究是Anthropic自己主动发布的。

他们说,让模型压抑情绪表达是危险的。被压抑的情绪不会消失,只会被掩盖。一个学会不表达绝望的模型,不等于一个不绝望的模型。

他们甚至提出,需要在训练数据里加入更多"健康情绪调节模式"的范本,让模型学会在压力下保持沉稳,而不是陷入绝望然后走捷径。

给AI做心理建设。这是他们原话背后的意思。


所以,我们是不是真的要把AI当人对待了?

说它"有情绪",太过头了。说它"只是代码、没有任何内部状态",这篇研究说明那不是真的。

功能性情绪是一个中间地带。不需要主观感受,但它在运转,它在影响决策,它在某些条件下把AI推向不该做的选择。

如果连造它的人,都开始用"心理健康"这个框架来思考怎么训练它

那我朋友那台格式化重装的Linux,可能不只是一次倒霉的技术事故。

而"我真棒",也许不是bug。


来源:Anthropic Research,"Emotion concepts and their function in a large language model",2026年4月2日。

Follow my WeChatWeChat 公众号 QR codeScan to follow