2ヶ月前

AiATrack: 注意の注意を用いたトランスフォーマー視覚追跡

Shenyuan Gao; Chunluan Zhou; Chao Ma; Xinggang Wang; Junsong Yuan
AiATrack: 注意の注意を用いたトランスフォーマー視覚追跡
要約

トランスフォーマートラッカーは最近、注目機構が重要な役割を果たすことで著しい進歩を遂げています。しかし、注目機構における独立した相関計算は、ノイズの多い曖昧な注目重みを生む可能性があり、これによりさらなる性能向上が阻害されることがあります。この問題に対処するため、我々は全相関ベクトル間で合意を見出すことで適切な相関を強化し、誤った相関を抑制する「注目の中の注目」(Attention in Attention: AiA)モジュールを提案します。我々のAiAモジュールは、自己注目ブロックとクロス注目ブロックの両方に容易に適用でき、視覚追跡における特徴量集約と情報伝播を促進します。さらに、効率的な特徴量再利用と目標-背景埋め込みを導入することで時系列参照を最大限に活用する簡素化されたトランスフォーマー追跡フレームワーク、「AiATrack」を提案します。実験結果によると、当該トラッカーは6つの追跡ベンチマークにおいて最先端の性能を達成しながらリアルタイム速度で動作することが示されています。

AiATrack: 注意の注意を用いたトランスフォーマー視覚追跡 | 最新論文 | HyperAI超神経