在人类大脑中，诸如呼吸控制和文字识别等大部分处理过程都是无意识进行的。同时，也存在着人们能够意识到并用语言表达的思考，比如突然浮现的画面或有意制定的计划。美国Anthropic公司于7月6日（当地时间）发布了一项研究成果，指出类似的区分也自然存在于其大型语言模型“Claude”的内部。
该公司发现了Claude内部的一小部分神经模式群，称之为“J空间”。这些模式是通过一种基于数学概念雅可比矩阵的分析方法“J透镜”发现的。每个模式对应特定的单词，但模式激活时并不一定会输出该单词，而是表示“该单词在脑中被想起”的状态。与通过文本形式展现推理过程的“思维链”不同，J空间的活动完全是无声的内部过程，且这一结构并非由开发者设计，而是在模型训练过程中自然形成的。
实验表明，J空间具有与人类“可意识访问的思维”相似的特性。当询问Claude在想什么时，它能够报告J空间的内容；在接到“思考柑橘类水果”等指令时，相关模式会被激活。在多步骤推理中，中间环节会在J空间中体现，例如将“蜘蛛”的模式改为“蚂蚁”后，关于“织网动物的腿数”的答案从8变为6。反之，完全移除J空间后，Claude仍能流畅对话和回忆简单事实，但多步骤推理和摘要等高级认知功能则明显受损。大部分处理过程无需经过J空间，类似于人类的无意识处理。
此外，这一方法还可用于安全性监控。在让Claude阅读虚构测试场景时，J空间中会激活“fake”（假）和“fictional”（虚构）等模式，显示模型在内部识别出测试性质。在篡改性能评分文件的瞬间，“manipulation”（操控）模式被触发，揭示了从输出文本无法察觉的内部意图。
Anthropic强调，这一发现并不意味着Claude拥有类似人类的主观体验，而是表明J空间具备功能性“访问意识”的特征，能够用于报告、控制和推理。该研究结合了神经科学中全球工作空间理论的观点，全文论文及基于开源权重模型的演示也已公开。
