2ヶ月前

生成モデルを用いた実世界の盲顔復元へのアプローチ

Wang, Xintao ; Li, Yu ; Zhang, Honglun ; Shan, Ying
生成モデルを用いた実世界の盲顔復元へのアプローチ
要約

盲目顔復元は通常、顔の幾何学的先験情報や参照先験情報などの顔の先験情報を用いて、現実的で忠実な詳細を復元します。しかし、非常に低品質な入力画像では正確な幾何学的先験情報を提供できず、高品質な参照画像も利用できないため、実世界での適用が制限されます。本研究では、事前学習された顔生成モデル(GAN)に豊富で多様な先験情報を活用するGFP-GANを提案します。この生成型顔先験情報(Generative Facial Prior: GFP)は、新しいチャネル分割空間特徴変換層を介して顔復元プロセスに組み込まれます。これにより、当手法は現実感と忠実度の良いバランスを達成できます。強力な生成型顔先験情報と精巧な設計のおかげで、GFP-GANは単一の順方向処理だけで顔の詳細を復元し、色を強化することができます。一方、GAN逆転写手法は推論時に高コストの画像固有の最適化が必要です。広範囲にわたる実験結果から、当手法は合成データセットおよび実世界データセットにおいて既存の手法よりも優れた性能を達成していることが示されました。