17日前

背景マッティング:世界はあなたのグリーンスクリーンです

Soumyadip Sengupta, Vivek Jayaram, Brian Curless, Steve Seitz, Ira Kemelmacher-Shlizerman
背景マッティング:世界はあなたのグリーンスクリーンです
要約

手持カメラを用いて日常的な環境下で人物の写真や動画を撮影することで、各画素ごとの前景色およびアルファ値(マット)を生成する手法を提案する。既存の多くのマッティング手法は、グリーンスクリーン背景や手動で作成されたトリマップを必要としており、良好なマットを得るためにはこれらが不可欠である。近年、トリマップ不要の自動マッティング手法も登場しているが、その品質はまだ十分とは言えない。本研究では、トリマップ不要のアプローチを採用し、撮影時に被写体を除いた背景の追加画像をユーザーに撮影してもらう。このステップはわずかな事前準備を要するものの、トリマップの手作業に比べてはるかに時間効率が良い。我々は敵対的損失(adversarial loss)を用いて深層ネットワークを学習させ、マットを予測する。まず、合成合成画像を用いた教師ありデータ上で、真のマットを用いた教師付き損失によりマッティングネットワークを訓練する。その後、ラベルのない実画像へのドメインギャップを埋めるために、最初のネットワークと、合成画像の品質を評価するディスクリミネーターを用いて、別のマッティングネットワークをガイド付きで訓練する。広範な写真および動画データに対して実験を行い、従来の最先端手法と比較して顕著な性能向上を示した。