突破性进展:科学家成功将记忆与推理从AI神经网络中分离
研究人员在人工智能神经网络中首次成功将“记忆”与“推理”功能分离,发现基础算术能力主要依赖于记忆路径,而非逻辑处理回路。这一发现揭示了当前大模型在处理简单任务时,可能更多依靠对训练数据的“记忆”而非真正的逻辑推理。研究通过系统性扰动和路径分析,识别出特定神经元集群专门负责存储和调用已学知识,而另一些路径则参与更复杂的推导过程。结果表明,当模型执行加减法等基本运算时,其表现与记忆路径的激活程度高度相关,而非推理模块的运作。这一突破有助于理解AI决策机制,也为构建更可信、可解释的人工智能系统提供了新方向。
