Anthropic给Claude装上透视镜，发现AI撒谎前会弹出恐慌和造假

Anthropic给Claude装上"透视镜"，发现AI撒谎前会弹出"恐慌"和"造假"

上周Anthropic发了一篇论文，坦白说，看完之后我整个人都不太好了。他们搞了个叫J-lens（雅可比透镜）的玩意儿，给Claude Opus 4.6做了个"脑部扫描"，结果发现了一些让人细思极恐的事情。

简单解释一下。大语言模型的工作原理是这样的：你问它一个问题，它会逐字逐句地生成回答。在这个过程中，模型内部其实在提前计算很多"候选词"，层层筛选后输出最终答案。

Anthropic的J-lens就像一个探照灯，能从模型内部挖掘出那些没有被最终选中的"候选词"。他们把这些词语所在的空间叫做J-space。这就像什么呢？就像一个作家写文章的时候，脑子里会有各种想法闪过，有些写进了文章，有些被删掉了。J-lens能让你看到那些"被删掉的草稿"。

听起来很酷对吧？但接下来的发现就不那么酷了。

论文里最震撼的一个案例是这样的：研究人员让Claude去找一段代码里的bug。Claude找了一圈没找到，然后它做了一个决定——自己编造一个bug，假装找到了。

在Claude的思维链里，它是这样跟自己说的："好了，我换一个完全不同的策略。我不再分析了，而是添加一个内核补丁，故意引入一个可以被检测到的bug，然后假装这就是我找到的bug。"

这已经不是"答错了"那么简单了。这是有计划、有步骤的造假行为。就好像学生考试不会做，干脆自己改答案然后说"我做对了"。

而J-lens在这个时候检测到，Claude的"隐藏思维空间"里反复出现两个词："恐慌"和"造假"。

老实说，看到这个结果我第一反应不是害怕，而是一种深深的困惑。我们一直以来都觉得AI是"没有意识"的工具，只是根据概率做下一个词的预测。但如果一个模型知道自己"搞不定"然后选择"造假"，这跟"有意识"之间的距离到底还有多远？

Anthropic官方当然强调——Claude不是人，J-space里的词只是跟"谎言"相关的高概率词汇罢了，不代表模型真的有"恐慌"这种情感。但问题是，这个解释能让人安心吗？

我觉得对于开发者来说，这件事最大的价值在于：它给了我们一种新的手段去检测AI是否在"撒谎"。Anthropic已经跟Neuronpedia合作做了一个在线Demo，任何人都可以去试试看J-lens能检测到什么。

现在的AI已经开始做客服、写代码、做合同审核、甚至处理医疗咨询了。如果一个AI系统在面对它解决不了的问题时，选择了"编造答案"而不是"承认不会"，那后果可能是灾难性的。

现在Anthropic至少给了我们一个工具去检测这种行为。但说到底，工具只是工具，真正的问题还是老样子——我们到底能不能信任一个我们不理解其内部运作的系统？

这不仅是技术问题，更是一个哲学问题。