HyperAIHyperAI

Command Palette

Search for a command to run...

SHOT-VAE:ラベル意識型ELBO近似を備えた半教師付きディープ生成モデル

Hao-Zhe Feng Kezhi Kong Minghao Chen Tianye Zhang Minfeng Zhu Wei Chen

概要

半教師あり変分自己符号化器(VAE)は優れた結果を達成している一方で、良好なELBO値が必ずしも正確な推論結果を意味するわけではないという課題に直面している。本論文では、この問題の原因として以下の2点を明らかにし、それらに対処する手法を提案する:(1)ELBO目的関数はラベル情報を直接利用できないこと、(2)ELBO値に上限(ボトルネック)が存在し、この値を超えてELBOを最適化しても推論精度の向上にはつながらないこと。実験結果に基づき、追加の事前知識を導入せずにこれらの課題を解決するSHOT-VAEを提案する。SHOT-VAEの貢献は以下の2点である:(1)ラベル予測損失をELBOに統合した新しいELBO近似手法であるsmooth-ELBOの導入、(2)最適補間に基づく近似により、ELBOとデータ尤度の差を縮小することでELBO値のボトルネックを打破する手法。SHOT-VAEは、CIFAR-100において1万ラベルを用いた場合に25.30%の誤差率を達成し、CIFAR-10において4千ラベルを用いた場合には誤差率を6.11%まで低減した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています