12 天前

基于语义感知机制的双流网络用于弱监督时序动作定位

{Hongbin Wang, Yadong Li, Yu Wang}
基于语义感知机制的双流网络用于弱监督时序动作定位
摘要

弱监督时序动作定位旨在仅使用视频级别的标注信息,检测未剪辑视频中的动作边界。现有大多数方法通过识别与视频级分类任务最相关的时序区域来定位动作,但这类方法往往忽略了帧间语义的一致性。本文提出一个新假设:即使缺乏对单个片段的监督信号,具有相似特征表示的片段也应被视为同一动作类别。为此,我们设计了一个可学习的字典,其条目对应于各类动作的类别中心(class centroids)。对于被判定属于同一动作类别的片段,其特征表示被引导趋近于相同的类别中心,从而帮助网络更好地感知帧的语义信息,避免产生不合理的定位结果。此外,我们提出一种双流框架,分别结合注意力机制与多实例学习策略,以提取细粒度线索与显著特征。二者之间的互补性使模型能够有效优化时序边界。最后,所提出的模型在公开可用的THUMOS-14和ActivityNet-1.3数据集上进行了验证,大量实验与分析表明,该模型在性能上显著优于现有方法。

基于语义感知机制的双流网络用于弱监督时序动作定位 | 最新论文 | HyperAI超神经