2ヶ月前

双プロトタイプ注意を用いた教師なしビデオオブジェクトセグメンテーション

Suhwan Cho; Minhyeok Lee; Seunghoon Lee; Dogyoon Lee; Heeseung Choi; Ig-Jae Kim; Sangyoun Lee
双プロトタイプ注意を用いた教師なしビデオオブジェクトセグメンテーション
要約

非監督動画オブジェクトセグメンテーション(VOS)は、動画の中で最も注目すべきオブジェクトを検出およびセグメンテーションすることを目指しています。非監督VOSで主に使用される技術は、1) 外観情報と運動情報の協調;2) 異なるフレーム間での時間的融合です。本論文では、これらの技術を異なるモダリティやフレーム間での密な伝播を通じて組み込むため、2つの新しいプロトタイプベースの注意メカニズム、モダリティ間注意(IMA)とフレーム間注意(IFA)を提案します。IMAは相互精緻化に基づいて、異なるモダリティからのコンテキスト情報を密に統合します。IFAはビデオの全体的なコンテキストをクエリフレームに注入し、複数のフレームから有用な特性を完全に活用できるようにします。公開ベンチマークデータセットでの実験結果は、提案手法が既存のすべての方法を大幅に上回ることを示しています。また、提案された2つの構成要素についても、削除実験を通じて詳細に検証されています。

双プロトタイプ注意を用いた教師なしビデオオブジェクトセグメンテーション | 最新論文 | HyperAI超神経