要約
非監督画像対画像変換は、生成対抗ネットワーク（Generative Adversarial Networks: GANs）に基づく最近の著しい進歩により、大きな注目を集めています。しかし、従来の手法は困難なケースでしばしば失敗します。特に、画像に複数の目標インスタンスが存在し、形状に大幅な変更を伴う翻訳タスク（例えば、ファッション画像におけるパンツからスカートへの変換）ではその傾向が顕著です。これらの課題に対処するため、我々は新しい方法であるインスタンス認識型GAN（Instance-aware GAN: InstaGAN）を提案します。この方法は、インスタンス情報（例：オブジェクトセグメンテーションマスク）を取り入れることで、複数インスタンスの変形を改善します。提案された方法は、画像と対応する一連のインスタンス属性を翻訳しつつ、インスタンスの置換不変性特性を維持します。この目的のために、我々はコンテキスト保存損失を導入しました。この損失関数はネットワークに対して目標インスタンス外での同一性関数の学習を促進します。また、限られたGPUメモリでも複数のインスタンスを扱い、ネットワークが複数のインスタンスに対してより一般的に汎化するようにするための逐次ミニバッチ推論/学習技術も提案しています。比較評価により、異なる画像データセットにおいて特に前述の困難なケースで提案手法の有効性が示されました。コードと結果は以下のURLで公開されています：https://github.com/sangwoomo/instagan