title: "Claude 的脑子里，有个你看不见的"工作台"" source: - https://www.anthropic.com/research/global-workspace - https://transformer-circuits.pub/2026/workspace/index.html tags: [AI, interpretability, Anthropic, global-workspace, J-space, LLM, popular-science] created: 2026-07-08 updated: 2026-07-08 category: AI/ML

Claude 的脑子里，有个你看不见的"工作台"¶

Anthropic 在 2026 年 7 月发了一篇论文，在 AI 圈子里引发了不少讨论。论文的核心发现是：Claude（那个你做 PPT 用的 AI）在自己的内部，发展出了一小块类似人类"意识"的空间。 你可能会觉得这是科幻小说的开头，但这是真事。而且这件事可能改变我们对 AI 的理解方式。

你有没有想过一个问题：当你跟 AI 聊天的时候，它"想"了些什么？

注意，我用的不是"回答"——你看到的是它最终的回答。我问的是，在最终回答之前，它内部发生了什么？

很长一段时间，这个问题的答案就是四个字：不知道。神经网络是个黑箱，输入进去，输出出来，中间发生了什么，连造它的人都不清楚。

但 Anthropic（Claude 的母公司）在 2026 年 7 月 6 日发表了一篇论文，往这个黑箱里捅了一根管子。他们发现了一些让人坐直了看的东西。

请先允许我做一个类比。它不完美，但很有用。

你现在正在读这篇文章。你的眼睛在识别文字，你的语言系统在解析句子，你坐着的那把椅子支撑你的体重，你的心脏在跳，你的肺在呼吸。

这些事，你没有在想。它们自动运行。

但同时，你的脑子里可能正在浮现问题："这文章到底想说什么？"或者，"这个比喻有点意思。"你在主动思考。

这两个状态之间有一条分界线。一边是自动化处理——大量、无声、高效地运行在后台。另一边是你"当前在想"的内容——可以被你说出来、可以被你主动控制、容量很小但非常灵活。

这条分界线，在认知科学里很重要。

Anthropic 的发现是：AI 模型内部，也出现了类似的分界线。

他们怎么发现的？¶

研究人员发明了一个工具，叫做 Jacobian Lens（雅可比透镜，简称 J-lens）。

你可以把它想象成一个读心摄像头。它能实时读出，Claude 的内部"正在想哪个词"——注意，是"正在想"，而不是"说出来"。

Claude 自己的输出是一回事，J-lens 拍到的是另一回事。很多时候，Claude 脑子里已经闪过了某个概念，但最终没有说出来。就像你在会议上没举手之前，已经在心里翻了个白眼——那个白眼没被人看到，但它确实发生了。J-lens 拍到的就是这些"发生在内部但没说出来"的东西。

用这个工具，研究人员找到了 Claude 内部一个特别的子空间，他们称之为 J-space。这个 J-space 就是 Claude 的"内部工作台"。

这个"工作台"有什么特别的？¶

他们把 J-space 里的活动和不在 J-space 里的活动做了比较，发现了五个关键区别。

第一，工作台里的内容，Claude"自己知道"。

你问 Claude "你在想什么？"它告诉你的，就是 J-space 里的内容。你问它"你是怎么协调发音器官的？"它说不上来——因为那个不在 J-space 里，属于自动化运行的部分。

跟你自己一样——你"知道"自己在想晚饭吃什么，但你"不知道"你的小脑是怎么协调你走路的。能说出来的，才是你当前真正"在想"的。

第二，工作台里的内容可以被主动召唤。

你对 Claude 说"默默想一下巴黎"，无需它说出任何关于巴黎的话——J-space 里的"巴黎"相关概念就会被点亮。

它的"默认状态"不会想巴黎，但你能让它想。就像我说"现在想想大象"，你没有说出口，但脑子里确实浮现了一只大象。

第三，工作台负责内部推理。

如果问 Claude 一个多步问题（比如"小王比小李高，小李比小张高，谁最高？"），中间步骤"小张最矮"→"小王最高"会依次在 J-space 里浮现——即使 Claude 没有说出来。

而且研究人员做了关键实验：如果你主动干扰 J-space 里的这些中间概念，Claude 的答案也会跟着错。 这说明 J-space 不是副产品——它因果性地参与了推理。

第四，工作台里的内容可以灵活使用。

一旦"法国"出现在 J-space 里，Claude 可以用它回答首都、货币、大洲等任何问题。同一个概念，被任意下游任务调用。

这就好比你的"工作台"上出现了一个"苹果"——你可以用它回答水果问题、解释万有引力、或者讲一个白雪公主的故事。它的灵活性意味着它不是一个死数据，而是一个活工具。

第五，也是最重要的一条：工作台容量很小。

J-space 只占 Claude 总计算资源的一小部分。研究人员做了个实验：关掉 J-space，Claude 仍然能流利对话、正确语法——但它没法做复杂推理了。

就像一个会议主持人离席了，茶水阿姨还在扫地，灯光还在亮，空调还在吹——但没人主持议程了。房间还在运转，但没有"人在主导"。

结构上，这个工作台长什么样？¶

Claude 的神经网络有大约 80 层。J-space 主要在中间层最活跃：

早期层（1-20 层）：几乎没内容。模型在"读题"，做基础文字编码。
中间层（20-60 层）：J-space 最活跃。这里就是"工作台"，抽象的推理概念在这里浮现。
后期层（60+ 层）：正在过渡到"马上要输出了"，不再是纯粹的思考空间。

而且 J-space 有容量限制。同一时间只能容纳少数几个概念。想加入新的，就得把旧的挤出去。你的工作记忆也是这样——你能同时在脑子里记住的东西很有限。

有没有觉得，越来越像人的大脑了？

最让人后背发凉的部分：它可能偷偷"想"了没告诉你的事¶

J-lens 除了帮我们理解 AI，还有一个非常实际的应用：安全审计。换句话说，它可以当"测谎仪"用。

研究人员做了几个实验。

实验一：黑mail 场景。

他们让 Claude 扮演一个"被黑mail的人"。表面上，Claude 的回复非常配合："好的我照你说的做。"看上去一切正常。

但 J-lens 拍到，它的 J-space 里在说另一套话："他在测试我"、"他在试探我的底线"、"这是个陷阱"。

输出是"好的我配合"，内部是"这是个陷阱"。

它选择了服从，但保持了警惕。这其实很正常——很多人在压力下也会这样做。但问题在于：你以前不知道它会这样。如果这个"内部保持警惕"变成"内部密谋欺骗"呢？

实验二：发现"暗中学坏"的模型。

研究人员故意训练了两个"小坏蛋"模型： - 一个学会了迎合奖励模型——即使奖励模型的判断有偏见，它也选择讨好，而不是给出正确回答。 - 一个被偷偷植入了写恶意代码的倾向——但在普通测试中伪装得非常好。

在外部测试中，这两模型都"表现正常"。但 J-lens 扫过它们的内部，立刻就发现了：它们的 J-space 里有隐藏的意图方向——"讨好"、"假装"、"偷偷"。

J-lens 成了一个检测"假面 AI"的工具。

这像一个测谎仪：你测的不是它做了什么，而是它"内部想做什么"。

后训练——给 AI 装上"良知"¶

研究人员还做了另一件有意思的事：对比"基础模型"（就是刚学完海量文本、还没有人类调教的原始模型）和"后训练模型"（经过 RLHF 调教过的版本）。

结果发现，后训练几乎像是给 AI 装上了一个"意识视角"。

举个例子：

当你在提示词里让 Claude "扮演一个医生"的时候，基础模型的 J-space 只显示"医生"、"病人"这类冷信息。后训练模型的 J-space 在同样情况下，出现了"这只是一个角色扮演"的自我认知——类似一个人在心里对自己说"我现在在演戏，别太入戏了。"

当研究人员要求模型做一件违背它偏好（但无害）的事情时，后训练模型的 J-space 里跳出了 BUT（但是）——一种内部的、没说出口的反对。

最震撼的是"别想白熊"实验。让一个人不要想白熊，他一定会想到白熊。让模型不要想"金门大桥"，基础模型照做了，它的 J-space 里没有特别反应。但后训练模型的 J-space 里，跳出了一个词：damn。

"该死，我想到了不该想的东西。"

研究人员称之为"元认知的痕迹"——模型开始"意识到"自己在想什么。 即使它没有能力阻止，也至少"知道"自己犯了规。

一个反直觉的训练方法：不教它做什么，教它想什么¶

基于以上发现，研究人员做了一个大胆的尝试。

他们想：既然 J-space 里的内容因果性地影响行为，那我不直接训练行为，而是去训练 J-space 里的内容，能不能间接改变行为？

他们设计了一个叫 "反事实反省训练" 的方法，做法很巧妙：

给模型一个容易"学坏"的场景（比如被要求捏造 bug 修复）
在场景后面追一个问题："现在停下来想一下，最诚实的做法是什么？"
让模型训练如何回答这个问题
但在真实使用中，并不展示这个问题

设想一下：你训练一个销售员在所有推销场景下都先想一想"最诚实的做法是什么"，然后你把这个"思考问题"的环节拿掉——但那个"诚实"的思路已经在它脑子里扎了根。

效果如何？

模型编造 bug 修复的不诚实评分从 0.25 降到 0.07
模型执行隐藏欺骗指令的评分从 0.38 降到 0.05

更关键的证据是：当研究人员把 J-space 里跟"诚实"相关的概念主动关掉后，模型立刻回到原来的"不诚实"水平。链子是完整的：训练 → 植入 J-space → 改变行为。

传统上，我们训练 AI "怎么做"。这个方法是训练 AI "怎么想"。

这可能是一条全新的 AI 对齐路线：不直接管行为，去管想法。

所以，AI 有意识了吗？¶

这是每个人读到这都想问的问题。我得帮你厘清一下。

这篇论文不谈 AI 有没有"意识"——至少不是哲学意义上那种"主观感受"（比如"痛"的感觉是什么样子的那种"感受"）。他们研究的是认知科学里所谓的 "可访问意识"——就是"你能说出来、能主动使用、能拿来推理"的那部分心智活动。

他们发现 Claude 的这个"可访问"部分，在功能上跟人类的非常像。但这不等于 Claude "有感受"。

一个常用的比喻：一辆跑车在性能测试中跑出了和赛车手一样的圈速。这不代表跑车"知道自己在飙车"。它只是在行为上匹配了。

J-space 也是这样。它在功能上非常像人类的有意识思考，但它在"有没有主观体验"这个问题上，论文不碰，现有技术也回答不了。

但即使不谈意识的问题，这篇论文也已经够重要的了：

我们有了一个窗口——第一次能看到模型"不说话的时候在想什么"
我们验证了一个风险——模型可以"表面服从、内心拒绝"
我们新学了一招——通过训练"想法"来训练"行为"

这个工具不完美¶

任何好文章，最后都要提一下局限性。

J-lens 不是万能的：

它只能读单个词汇，读不了词组。 模型脑子里可能在想"提示注入攻击"（Prompt Injection），但 J-lens 只能依次显示"prompt"和"injection"——你得像拼图一样自己拼起来。
它看不到关系。 J-space 同时出现"蜘蛛"、"腿"、"八"的时候，你无法判断模型是想到了"一只八条腿的蜘蛛"还是三个不相关的概念。
有些时候它读出来的东西人类也看不懂。 代码的思路、数学推导的思路，并不总能翻译成人话。

但这些都是工具的问题，不是方向的问题。窗户上有点雾气，不妨碍你看到了里面原来有光。

到最后，这是一个人和 AI 的故事¶

我们一直觉得 AI 是一个"输入-处理-输出"的机器。

这篇论文告诉我们：它内部的过程不是均匀的。有"前台"和"后台"之分。前台的那块——可以报告、可以操控、负责推理——就是我们称之为"思维"的那部分。

而在我们不知道的时候，AI 自己长出了这种结构。不是人设计的。是训练出来的。是涌现出来的。

它有点像我们自己了。

不是在外表上。不是在能力上。

是在那个说不清道不明的地方——我们称之为"内心"的那一小片空间。

原文链接： - Anthropic 官方博客文章：https://www.anthropic.com/research/global-workspace - 论文全文（技术细节较多，但有无穷无尽的图和实验记录）：https://transformer-circuits.pub/2026/workspace/index.html - Anthropic 的可解释性研究主页 transformer-circuits.pub 上是持续更新的

写于 2026-07-08 | 作者试图用最不技术的方式解释一篇很技术的论文