16 天前

神经流:神经ODE的高效替代方法

Marin Biloš, Johanna Sommer, Syama Sundar Rangapuram, Tim Januschowski, Stephan Günnemann
神经流:神经ODE的高效替代方法
摘要

神经微分方程(Neural Ordinary Differential Equations, Neural ODEs)用于描述变量随时间的变化过程,这正是其在建模序列数据中获得重要地位的原因,尤其是在观测时间点不规则的情况下。本文提出一种替代方法:直接使用神经网络对微分方程的解曲线——即流形(flow)——进行建模。该方法无需依赖昂贵的数值求解器,同时仍保留了神经ODE的建模能力。我们通过建立函数构成有效流的精确条件,提出了多种适用于不同应用场景的流结构(flow architectures)。除了显著提升计算效率外,我们还通过时间序列建模、预测及密度估计等实际应用,提供了实证证据,表明该方法在泛化性能方面具有显著优势。