2 个月前

探索增强上下文信息在视频级目标跟踪中的应用

Ben Kang; Xin Chen; Simiao Lai; Yang Liu; Yi Liu; Dong Wang
探索增强上下文信息在视频级目标跟踪中的应用
摘要

视频级别的上下文信息在视觉目标跟踪中变得越来越重要。然而,现有的方法通常仅使用少数几个标记来传递这些信息,这可能导致信息丢失并限制其全面捕捉上下文的能力。为了解决这一问题,我们提出了一种新的视频级别视觉目标跟踪框架,称为MCITrack。该框架利用Mamba的隐藏状态,持续记录并传输整个视频流中的大量上下文信息,从而实现更稳健的目标跟踪。MCITrack的核心组件是上下文信息融合模块,该模块由Mamba层和交叉注意力层组成。Mamba层存储历史上下文信息,而交叉注意力层将这些信息整合到每个骨干块的当前视觉特征中。通过与骨干网络的深度集成,该模块增强了模型在多个层次上捕捉和利用上下文信息的能力。实验结果表明,MCITrack在多个基准测试中表现出色。例如,在LaSOT数据集上实现了76.6%的AUC(Area Under Curve),在GOT-10k数据集上实现了80.0%的AO(Average Overlap),确立了新的最先进性能。代码和模型可在https://github.com/kangben258/MCITrack 获取。

探索增强上下文信息在视频级目标跟踪中的应用 | 最新论文 | HyperAI超神经