RVOS: エンドツーエンドの再帰型ネットワークによるビデオオブジェクトセグメンテーション

複数物体ビデオオブジェクトセグメンテーションは、特にゼロショットの場合において困難な課題であり、初期フレームで物体マスクが与えられず、モデルがシーケンス内でセグメンテーションすべき物体を見つけ出す必要があります。本研究では、完全にエンドツーエンドで学習可能な複数物体ビデオオブジェクトセグメンテーション用の再帰ネットワーク（RVOS）を提案します。当モデルは、以下の2つの異なるドメインにおける再帰性を組み込んでいます：(i) 空間的な再帰性，これは1つのフレーム内での異なる物体インスタンスの発見を可能にし、(ii) 時間的な再帰性，これは時間経過とともにセグメンテーションされた物体の連続性を保つことを可能にします。我々はRVOSをゼロショットビデオオブジェクトセグメンテーションのために訓練し、DAVIS-2017およびYouTube-VOSベンチマークに対する定量的な結果を初めて報告します。さらに、過去の時間ステップで得られたマスクを使用して再帰モジュールによって処理される入力として利用することで、RVOSをワンショットビデオオブジェクトセグメンテーションに適応させました。当モデルはYouTube-VOSベンチマークにおいて最先端技術と同等の結果を得ており、オンライン学習を使用しないすべての従来のビデオオブジェクトセグメンテーション手法よりもDAVIS-2017ベンチマークで優れた性能を示しています。また、当モデルは従来の手法よりも高速な推論実行時間を達成しており、P100 GPU上で44ミリ秒/フレームとなっています。