OpenAI近期推出了一种名为权重稀疏Transformer的实验性大型语言模型，旨在破解大模型长期存在的“黑箱”难题。尽管其性能远低于当前主流模型如GPT-5或Gemini，仅相当于2018年GPT-1的水平，但这一模型最大的突破在于其高度可解释性。与传统稠密神经网络不同，该模型强制大部分权重为零，使每个神经元仅与少数其他神经元连接，从而实现特征的局部化和计算路径的清晰化。这种结构虽牺牲了速度与能力，却让研究人员能够追踪模型内部的推理全过程。例如，在判断字符串应使用单引号还是双引号闭合的任务中，团队清晰观察到：模型通过两个独立通道编码引号类型，注意力机制定位起始引号，MLP模块提取语义特征，最终复制对应符号。这一过程首次以可视化方式揭示了模型如何完成简单逻辑推理。在更复杂的变量绑定任务中，尽管整体电路难以完全还原，但研究者仍识别出关键注意力头负责变量名复制与类型传播，形成可预测的“部分电路”。这一发现表明，即使在复杂任务中，模型的核心机制也可能具有局部结构，而非完全混沌。OpenAI研究科学家Leo Gao强调，该模型的目标并非追求极致性能，而是推动机械可解释性研究，使AI系统的决策过程可追踪、可验证。尽管波士顿学院数学家Elisenda Grigsby等学者对技术能否扩展至GPT-3级别模型持谨慎态度，但OpenAI团队相信，随着算法优化，未来有望构建出兼具GPT-3级性能与完全可解释性的系统。这一探索标志着AI从“强大但不可控”向“透明且可信”演进的关键一步，为安全、可信AI的发展提供了全新路径。 该实验被视为机械可解释性领域的里程碑，不仅为理解模型内部运作提供了新工具，也为AI在医疗、司法、教育等高风险领域的应用奠定信任基础。尽管当前模型尚无法替代主流大模型，但其价值在于揭示了“可解释性”并非性能的对立面，而是未来AI系统不可或缺的组成部分。OpenAI的这一尝试，正在重新定义我们对人工智能的理解方式。