時間変調ネットワークによる制御可能な空間時間ビデオ超解像

時空ビデオスーパーレゾリューション（STVSR）は、低解像度および低フレームレートのビデオの空間解像度と時間解像度を向上させる技術です。最近、変形畳み込みに基づく手法が有望なSTVSR性能を達成していますが、これらの手法は訓練段階で事前に定義された中間フレームのみを推論することができました。さらに、これらの手法は隣接するフレーム間の短期的な運動情報を軽視していました。本論文では、任意の中間フレームを正確に高解像度で補完するためのTemporal Modulation Network（TMNet）を提案します。特に、Temporal Modulation Block（TMB）を提案し、変形畳み込みカーネルを制御可能な特徴量補完のために調整します。時間情報を効果的に活用するために、Locally-temporal Feature Comparison（LFC）モジュールと双方向変形ConvLSTMを提案し、ビデオ内の短期および長期の運動情報を抽出します。3つのベンチマークデータセットでの実験結果から、我々のTMNetが以前のSTVSR手法よりも優れた性能を示していることが確認されました。コードはhttps://github.com/CS-GangXu/TMNet で公開されています。