9 天前

从未知因素中解耦物理动力学用于无监督视频预测

Vincent Le Guen, Nicolas Thome
从未知因素中解耦物理动力学用于无监督视频预测
摘要

利用由偏微分方程(PDEs)所描述的物理知识,是一种提升无监督视频预测方法性能的有吸引力途径。由于物理规律对通用视频的完整视觉内容描述过于受限,本文提出PhyDNet,一种双分支深度神经架构,能够显式地将PDE动力学与未知的互补信息解耦。第二个贡献是提出一种新型循环物理单元(PhyCell),其灵感源自数据同化技术,用于在隐空间中实现PDE约束下的视频预测。在四个不同数据集上开展的大量实验表明,PhyDNet能够显著优于当前最先进的方法。消融实验进一步验证了解耦机制与PDE约束预测所带来的显著性能提升。最后,本文还展示了PhyDNet在处理缺失数据和长期预测任务中所具备的优异特性。