2ヶ月前

コピー・アンド・ペースト・ネットワークを用いた深層ビデオ修復

Sungho Lee; Seoung Wug Oh; DaeYeun Won; Seon Joo Kim
コピー・アンド・ペースト・ネットワークを用いた深層ビデオ修復
要約

私たちは、ビデオの欠損部分を補完する新しいディープラーニングベースのアルゴリズムを提案します。ビデオインペイントは、ビデオ内の破損または欠落した領域を完成させるプロセスです。画像インペイントと比較して、ビデオインペイントには時間的な情報が追加されることや、時間的な一貫性を維持する必要があるため、さらなる課題があります。私たちは、ビデオの他のフレームに含まれる追加情報を活用する新しいDNN(深層ニューラルネットワーク)ベースのフレームワーク「Copy-and-Paste Networks」を提案します。このネットワークは、参照フレームから対応するコンテンツをコピーし、ターゲットフレームの穴埋めのために貼り付けるように訓練されています。また、私たちのネットワークにはアライメントネットワークも含まれており、フレーム間のアフィン行列を計算することでアライメントを行い、より遠いフレームからの情報を取り入れて堅牢性を向上させることができます。私たちの手法は、視覚的に魅力的で時間的に一貫性のある結果を生成しながら、最先端の最適化ベースの手法よりも高速に動作します。さらに、このフレームワークを拡張して、ビデオ内の過度に露出不足または露出過剰なフレームの画質向上にも利用しています。この画質向上技術を使用することで、道路映像での車線検出精度を大幅に向上させることができました。

コピー・アンド・ペースト・ネットワークを用いた深層ビデオ修復 | 最新論文 | HyperAI超神経