我们提出了常微分方程变分自编码器（ODE$^2$2VAE），这是一种用于高维序列数据的潜在二阶常微分方程模型。借助深度生成模型的最新进展，ODE$^2$2VAE能够同时学习高维轨迹的嵌入并推断任意复杂的连续时间潜在动态。我们的模型显式地将潜在空间分解为动量和位置组件，并求解一个二阶常微分方程系统，这与基于循环神经网络（RNN）的时间序列模型和最近提出的黑箱常微分方程技术不同。为了考虑不确定性，我们提出了一种由深度贝叶斯神经网络参数化的概率潜在常微分方程动态。我们在动作捕捉、图像旋转和弹跳球数据集上验证了我们的方法，并在长期运动预测和插补任务中取得了最先进的性能。