17日前

補助的ディープ生成モデル

{Søren Kaae Sønderby, Casper Kaae Sønderby, Lars Maaløe, Ole Winther}
補助的ディープ生成モデル
要約

ニューラルネットワークによってパラメータ化された深層生成モデルは、近年、教師なしおよび半教師あり学習において最先端の性能を達成している。本研究では、補助変数を導入することで、変分近似の表現力を向上させる深層生成モデルを拡張した。補助変数は生成モデルそのものには影響を及ぼさないが、変分分布の表現力を高める。補助変数の構造に着想を得て、2層の確率的層とスキップ接続を備えたモデルも提案した。本研究の結果から、より表現力が高く適切に定式化された深層生成モデルは、より高速に収束し、優れた性能を発揮することが示された。また、MNIST、SVHN、NORBの各データセットにおいて、半教師あり学習の分野で最先端の性能を達成した。