HyperAIHyperAI

Command Palette

Search for a command to run...

Implicit Resamplingを用いたアライメントによる動画スーパーレゾリューションの向上

Kai Xu Ziwei Yu Xin Wang Michael Bi Mi Angela Yao

概要

動画スーパーレゾリューションにおいて、時間的に情報を伝播するためのフレーム単位のアライメントが一般的に用いられる。アライメントの役割は、動画の低レベルな増強において広く研究されてきたが、既存の研究では重要な一ステップである「リサンプリング」が軽視されている。広範な実験を通じて、アライメントが有効であるためには、リサンプリングが参照画像の周波数スペクトルを保持しつつ、空間的な歪みを最小限に抑えるべきであることを示した。しかし、多くの既存手法では、リサンプリングにデフォルトとして双線形補間(bilinear interpolation)を採用している。これは平滑化効果をもたらし、スーパーレゾリューションを阻害するという問題がある。こうした観察から、我々は暗黙的リサンプリングに基づくアライメントを提案する。サンプリング位置は正弦波的位置符号化(sinusoidal positional encoding)によって符号化され、サンプル値は座標ネットワーク(coordinate network)と窓ベースのクロスアテンション(window-based cross-attention)を用いて推定される。我々は、双線形補間が本質的に高周波成分を減衰させること、一方でMLPベースの座標ネットワークはより多くの周波数成分を近似可能であることを示した。合成データおよび実世界データセットにおける実験結果から、提案する暗黙的リサンプリングを用いたアライメントが、計算コストおよびパラメータ数にほとんど影響を与えることなく、最先端のフレームワークの性能を向上させることを実証した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています