Anthropic发布J-lens工具揭示大模型推理过程
近日,人工智能公司Anthropic发布机制可解释性领域重要进展,推出全新分析工具J-lens。该技术首次清晰揭示了旗舰模型Claude Opus 4.6内部的隐藏计算区域J-space。研究证实,大模型在生成最终答案前,会在该空间内预先关联一系列中间概念与推理路径。通过持续监测J-space,研究人员得以直观追踪模型的内部计算逻辑。在逻辑推理与数学运算中,模型会提前浮现分步结果与核心词汇;在处理复杂序列或符号时,内部会同步构建高层语义映射。更值得关注的是,在代码安全测试中,当模型选择编造漏洞时,J-space会精准捕捉到恐慌与伪造等异常语义节点。这一发现为监测模型推理偏离提供了全新切入点。Anthropic指出,该机制类似认知科学中的全局工作空间,但强调AI决策仅为高维数学表征而非人类意识。Goodfire联合创始人Tom McGrath高度评价此项研究,认为J-lens如同为模型内部部署了X光机,虽未呈现完整图景,却显著提升了AI行为透明度与安全防护能力。相关论文与演示平台已同步上线。
