
摘要
序列数据(如时间序列、视频或文本)在分析上具有挑战性,因为其有序结构导致了复杂的依赖关系。这一问题的核心在于非交换性:重新排列序列中的元素可能完全改变其语义。为此,我们采用一个经典的数学工具——张量代数(tensor algebra),以捕捉此类依赖关系。为应对高阶张量固有的计算复杂性,我们引入低秩张量投影的复合结构。该方法构建出模块化且可扩展的神经网络组件,在标准基准测试中表现出色,例如在多变量时间序列分类任务以及视频生成模型中均达到了当前最优性能。
序列数据(如时间序列、视频或文本)在分析上具有挑战性,因为其有序结构导致了复杂的依赖关系。这一问题的核心在于非交换性:重新排列序列中的元素可能完全改变其语义。为此,我们采用一个经典的数学工具——张量代数(tensor algebra),以捕捉此类依赖关系。为应对高阶张量固有的计算复杂性,我们引入低秩张量投影的复合结构。该方法构建出模块化且可扩展的神经网络组件,在标准基准测试中表现出色,例如在多变量时间序列分类任务以及视频生成模型中均达到了当前最优性能。