17日前
SHOT-VAE:ラベル意識型ELBO近似を備えた半教師付きディープ生成モデル
Hao-Zhe Feng, Kezhi Kong, Minghao Chen, Tianye Zhang, Minfeng Zhu, Wei Chen

要約
半教師あり変分自己符号化器(VAE)は優れた結果を達成している一方で、良好なELBO値が必ずしも正確な推論結果を意味するわけではないという課題に直面している。本論文では、この問題の原因として以下の2点を明らかにし、それらに対処する手法を提案する:(1)ELBO目的関数はラベル情報を直接利用できないこと、(2)ELBO値に上限(ボトルネック)が存在し、この値を超えてELBOを最適化しても推論精度の向上にはつながらないこと。実験結果に基づき、追加の事前知識を導入せずにこれらの課題を解決するSHOT-VAEを提案する。SHOT-VAEの貢献は以下の2点である:(1)ラベル予測損失をELBOに統合した新しいELBO近似手法であるsmooth-ELBOの導入、(2)最適補間に基づく近似により、ELBOとデータ尤度の差を縮小することでELBO値のボトルネックを打破する手法。SHOT-VAEは、CIFAR-100において1万ラベルを用いた場合に25.30%の誤差率を達成し、CIFAR-10において4千ラベルを用いた場合には誤差率を6.11%まで低減した。