要約
ローリングシャッター補正（RSC）は、商業および産業分野で広く利用されているRSカメラにおいて、ますます注目されている技術である。これまでのRSC手法は、有望な性能を示すものの、通常、内在的な情報相互作用を無視する二段階ネットワーク構造を採用しており、高速な推論を阻害する要因となっている。本論文では、効率的なRSCを実現するため、単段階のエンコーダデコーダ型ネットワークであるJAMNetを提案する。本手法は、連続するRS入力からピラミッド特徴量を抽出し、その後、グローバルシャッター画像と歪み除去運動場という二つの補完的情報を、共同学習デコーダ内で同時に精緻化することで、相互に促進する仕組みを構築する。共同学習を効果的にガイドするための十分な運動情報（motion cues）を注入するため、Transformerベースの運動埋め込みモジュールを導入し、ピラミッドレベル間で隠れ状態を伝達する手法を提案する。さらに、RSCデータセットの潜在能力を引き出すために、「垂直反転＋逆順」を特徴とする新たなデータ拡張戦略を提示する。複数のベンチマークにおける実験結果から、本手法は従来の最先端手法を大きく上回り、特に実世界のRSCデータに対して4.7 dBのPSNR向上を達成した。コードは https://github.com/GitCVfb/JAMNet にて公開されている。