クロスオーバー学習を用いた高速オンライン動画インスタンスセグメンテーション

フレーム間の時間的視覚的文脈をモデリングすることは、動画インスタンスセグメンテーション（VIS）および他の動画理解タスクにおいて極めて重要である。本論文では、高速なオンラインVISモデルであるCrossVISを提案する。VISにおける時間的情報のモデリングに関して、現在のフレームのインスタンス特徴を用いて他のフレームにおける同一インスタンスをピクセル単位で局所化する、新たなクロスオーバー学習スキームを提示する。従来の手法とは異なり、クロスオーバー学習は特徴強化のための追加ネットワークパラメータを必要としない。インスタンスセグメンテーション損失と統合することで、クロスオーバー学習は効率的なフレーム間のインスタンス-ピクセル関係学習を可能にし、推論時にコストフリーの性能向上を実現する。さらに、より正確かつ安定したオンラインインスタンスアソシエーションを実現するため、グローバルバランスインスタンス埋め込みブランチを導入する。本手法の有効性を検証するため、YouTube-VIS-2019、OVIS、YouTube-VIS-2021の3つの挑戦的なVISベンチマーク上で広範な実験を実施した。知られている限り、CrossVISはすべてのオンラインVIS手法の中で最先端の性能を達成しており、遅延と精度の間で良好なトレードオフを示している。コードは今後の大規模な研究を促進するため、公開予定である。