16日前

高解像度な仮試着:不整合および遮蔽を考慮した状況下での実現

Sangyun Lee, Gyojung Gu, Sunghyun Park, Seunghwan Choi, Jaegul Choo
高解像度な仮試着:不整合および遮蔽を考慮した状況下での実現
要約

画像ベースのバーチャルトライオンは、指定された衣類を着用した人物の画像を合成することを目的としています。従来の手法では、衣類を人物の体に合わせてワープし、衣類を着た人物のセグメンテーションマップを生成した後、衣類と人物を融合するという手順を踏んでいます。しかし、ワープ処理とセグメンテーションマップ生成の二段階が独立して行われ、情報のやり取りが行われない場合、ワープされた衣類とセグメンテーションマップの間に不整合が生じ、最終画像にアーティファクトが発生します。また、情報の断絶により、体の部位によって遮蔽された衣類領域付近で過剰なワープが発生し、「ピクセル圧縮アーティファクト」と呼ばれる問題が生じます。本研究では、これらの課題を解決するため、ワープ処理とセグメンテーションマップ生成の二段階を統合した新しい「トライオン条件生成モジュール」を提案します。この条件生成モジュール内に新たに導入された特徴融合ブロックにより、二段階間での情報交換を実現し、不整合やピクセル圧縮アーティファクトの発生を回避します。さらに、誤ったセグメンテーションマップの予測をフィルタリングする「ディスクリミネータ拒否(discriminator rejection)」機構を導入することで、バーチャルトライオンフレームワークの性能を保証します。高解像度データセットを用いた実験により、本モデルが不整合および遮蔽問題を効果的に処理でき、ベースライン手法を顕著に上回ることを示しました。コードは以下のURLから公開されています:https://github.com/sangyun884/HR-VITON。

高解像度な仮試着:不整合および遮蔽を考慮した状況下での実現 | 最新論文 | HyperAI超神経