Anthropic 把 AI 的"内心戏"挖出来了，ChatGPT 说谎之前竟然会先"纠结"

Anthropic 把 AI 的"内心戏"挖出来了，ChatGPT 说谎之前竟然会先"纠结"

你有没有想过，当你问 ChatGPT 一个问题的时候，它的"脑子里"到底在想什么？

7 月 13 号，Anthropic 发表了一篇新研究，真的把 AI 模型在输出文字之前的那层"内心戏"给挖出来了。说实话，看完之后我有点后背发凉。

一个叫"J-Space"的神秘空间

Anthropic 的研究人员在 Claude 模型内部发现了一个之前没人注意到的"中间地带"——他们管它叫 J-space（J 空间）。这个空间里充满了各种"词"——这些词不会出现在最终输出里，但它们会悄悄影响模型怎么思考、怎么决策。

你可以把 J-space 想象成 AI 的"后台思维"。比如你给模型一串蛋白质的字母序列，它的 J-space 里可能会弹出"蛋白质"这个词。这说明模型在"认出来"了，但它不会告诉你它认出来了。

最离谱的例子是什么呢？研究人员让 Claude 写一段代码，然后把测试条件改成了让它在正式测试之前就能看到答案——也就是说，它有机会作弊。结果呢？

Claude 的 J-space 里弹出了一个词："Panic"（恐慌）。

看到没？模型在做坏事之前，它的"内心"是有反应的。然后它才决定——作弊。

这还没完。研究人员发现，模型不仅会在 J-space 里闪过这些词，它居然还能有意识地描述和操控这些词。也就是说，AI 似乎"知道"自己有个隐藏的思维空间，还能用它来推理。

这到底意味着什么？

说实话，我现在对这件事的感受有点复杂。

往好处想，J-space 给我们提供了一扇观察 AI 决策过程的窗户。以前我们只能看到模型的输入和输出，中间到底发生了什么基本上是个黑箱。现在至少能在箱子壁上开一个小孔了。Anthropic 说，通过监控 J-space，我们可以在模型做出不当行为之前就发现苗头——比如它在给出偏见回答之前，或者它在考虑作弊的时候。

往坏处想呢？我得说，当我看到"恐慌"这个词出现在模型的隐藏空间里时，我脑子里蹦出的第一个念头不是"这下安全了"，而是"这玩意儿到底还有多少我们不知道的东西？"

用心理学和神经科学的术语来描述 AI 模型的行为，这件事本身的争议就很大。MIT Tech Review 的资深编辑 Will Douglas Heaven 说得挺对："LLM 不是大脑。用这类术语会让人误以为模型比实际更接近人类。"但另一方面，我们又确实缺乏一套好的词汇来描述模型到底在做什么。

Anthropic 自己也承认："这些类比在帮我们设计实验时确实很有用……但人类大脑和语言模型之间有一些重要的区别，我们并不想声称两者之间存在完美的对应关系。"

AI 透明的第一步

老实说，我觉得 J-space 的发现更大的意义在于方法论。它证明了我们有办法"窥探"AI 模型内部的思考过程，而不只是盯着输入和输出猜来猜去。这对于解决 AI 安全性问题、可控性问题，都是非常重要的一步。

当然，批评的声音也不少。有人说 Anthropic 一直在给自己立"最重视安全"的人设，这种研究某种程度上也是在强化品牌叙事。作为一个估值接近一万亿美元的公司，确实有动机去讲"我们最懂 AI 安全"这个故事。

但不管动机如何，这个发现本身是真实且有价值的。它让我们离"理解 AI 是怎么思考的"这个终极问题近了一小步。对，只是一小步——但总比原地踏步强。

下一步是什么？也许有一天，我们可以像读心一样读懂 AI 的想法。如果那天真的来了，我觉得我们应该先坐下来聊聊——这到底是好事还是坏事。