Anthropic在Claude神经网络中发现思考的物理位置

Anthropic发布论文《Verbalizable Representations Form a Global Workspace in Language Models》，在Claude的神经网络中识别出一块名为J-space的区域，对应神经科学的全局工作空间理论，可能是AGI竞赛的分水岭。

过去两个月，AI圈发生了一连串人事变动。5月19日，Andrej Karpathy加入Anthropic；随后诺贝尔化学奖得主John Jumper也离开DeepMind加入Anthropic。这些变动曾被视为常规人才争夺，但Anthropic的最新论文揭示了深层原因。

J-space：思考的物理位置

Anthropic使用Jacobian Lens工具，类似给大模型做fMRI，逐层扫描内部激活，发现一块边界清晰的区域J-space。该区域对应神经科学的全局工作空间理论：信息进入共享通道加工后广播给其他系统。

Anthropic设计了三个实验验证J-space功能：

• 换念头实验：让Claude默想运动，读取J-space中“Soccer”模式后，直接替换为“Rugby”，Claude回答变成橄榄球。反向实验注入“lightning”，Claude能检测到被注入的念头。
• 一边抄书一边心算：Claude抄写句子时，J-space中“bridge”“California”等词亮起，心算3²−2时，先亮“nine”再亮“seven”，输出无数学痕迹。
• 推理实验：问“会织网的动物有几条腿？”，J-space中“spider”亮起；换成“ant”，答案从8变为6。用四个不同问题问法国信息，将J-space中“France”换成“China”，四个答案全部改变，证明共享表征。

这些实验表明J-space是思考发生的物理位置，而非被动记录。读写J-space的网络组件数量远超普通模式，差约一百倍，符合工作空间定义。

来源：虎嗅