Command Palette
Search for a command to run...
LLM 无法完成“跳跃”
LLM 无法完成“跳跃”
Tom Zahavy Oliver Nash
摘要
我们如何从根本上发现新事物?在致莫里斯·索洛文的一封信中,阿尔伯特·爱因斯坦将发现概念化为一个循环过程,包含从感官经验到公理的直觉性“跳跃”,以及随后的逻辑演绎。尽管生成式 AI 已掌握归纳(统计模式匹配)并正迅速征服演绎(形式化证明),我们认为它缺乏溯因(abduction)的机制——即生成新颖解释性假说的能力。以爱因斯坦构建广义相对论作为计算案例研究,我们证明“创造力即数据压缩”(归纳)这一主流理论无法解释观测数据稀缺时的发现。本立场论文指出,尽管现代大语言模型或许能够可信地执行从既定前提出发证明定理的演绎阶段,但它在结构上无法完成构想这些前提所需的溯因性“跳跃”。我们将从模拟到形式化公理的转化确定为人工科学发明的关键瓶颈,并提出物理一致的多模态世界模型提供了必要的感官基础,以弥合这一鸿沟。
一句话总结
Google DeepMind 的研究人员认为,大型语言模型虽然擅长归纳与演绎,但在结构上无法进行提出新颖解释性假说所需的溯因性“跳跃”,并提出物理一致的多模态世界模型能够提供必要的感官基础,以克服人工科学发明中的这一关键瓶颈。
核心贡献
- 本文通过证明爱因斯坦构建广义相对论时并不存在普遍的错误信号或丰富的观测数据,挑战了“创造力即压缩”假说,表明仅靠统计归纳无法解释这类发现。
- 本工作指出,将内部物理模拟转化为形式公理的溯因性跃迁,是当前 AI 缺失的关键机制,并通过分析 AI Scientist 和 AlphaEvolve 等最先进自动发现系统的感官基础限制,支持了这一论断。
- 论文提出,物理一致的多模态世界模型能够为 AI 提供必要的感官基础,使其进行驱动溯因的反事实模拟,从而为在物理科学发明中弥合直觉与逻辑之间的鸿沟提供了一条路径。
引言
作者以爱因斯坦创建广义相对论作为计算案例研究,挑战了将科学发现简单归结为归纳(数据压缩)与演绎(形式定理证明)组合的还原论观点。此前 AI 驱动的发现研究在从数据中提取模式或从给定公理验证理论方面取得了成功,但无法解释在没有错误信号或大型数据集时,新公理是如何被提出的。作者认为,缺失的关键要素是溯因——对惊异现象进行解释的创造性推理,并证明爱因斯坦的公理跃迁是由具身的思想实验驱动,而非由统计梯度驱动。他们得出结论:当前缺乏物理一致世界模型的大型语言模型,在结构上无法进行真正的科学发明所需的溯因性跳跃,并建议未来的 AI 必须整合感官模拟,让抽象符号在物理经验中扎根。
方法
作者提出了一个用于自动化科学发现的概念框架,旨在弥合逻辑演绎与生成新公理之间的鸿沟。他们认为,现代 AI 系统虽然擅长演绎(从已有公理推导定理),但缺乏进行溯因性跳跃以提出新基本原理的能力。为此,作者引入了“操纵性溯因”这一概念,这是一种依赖具身模拟,通过主动与心智模型交互来生成假说的认知过程。
这一思维过程被概念化为一个两阶段机制。第一阶段是“以物理变异为形式的模拟”,可以透过测试时强化学习的视角来理解。在此阶段,系统发明问题的新变体以推动进展。与受固定规则约束的符号变异不同,这需要操纵感知经验,基于物理直觉发明新公理。
如上图所示,等效原理思想实验正是这一阶段的例证。通过模拟密封环境中观察者的物理感受,例如比较引力场中的静止电梯与深空中加速的电梯,系统生成了一个特定的感官模式。第二阶段是“溯因与物理先验”,系统执行溯因推理,以推断对模拟观察的最佳解释。由于模拟的加速感官体验与记忆中的引力感官体验无法区分,系统溯因地推断它们必定是同一现象,从而利用物理先验有效地剪枝了可能公理的搜索空间。
为了在 AI 中实现这一过程,作者指出了交互式世界模型的兴起。与依赖统计相关的被动视频生成器不同,Genie 等架构引入了动作可控性,允许 agent 的干预。这一能力是操纵性溯因的前提条件,因为它使 AI 能够进行反事实干预,例如概念性地切断电梯缆绳,而不仅仅是观察。通过在一致的潜在物理流形上运行,这些交互式环境提供了一个合成实验室,将溯因性跳跃从神秘的洞见转化为可复现的算法过程。