2ヶ月前
深層非監督クラスタリングにおけるガウス混合変分オートエンコーダーの利用
Nat Dilokthanakul; Pedro A.M. Mediano; Marta Garnelo; Matthew C.H. Lee; Hugh Salimbeni; Kai Arulkumaran; Murray Shanahan

要約
私たちは、事前分布としてガウス混合モデルを用いた変分オートエンコーダー(VAE)の変種モデルについて研究しています。この研究の目的は、深層生成モデルを通じて教師なしクラスタリングを行うことです。既知の問題である通常のVAEで発生する過正則化が、私たちのモデルでも現れ、クラスタの退化を引き起こすことを観察しました。この効果を軽減することが示されている最小情報制約(minimum information constraint)というヒューリスティックが、私たちのモデルにおいても教師なしクラスタリング性能を向上させるために適用できることを示しました。さらに、このヒューリスティックの効果を分析し、視覚化を用いて各種プロセスの直感的な理解を提供します。最後に、合成データ、MNISTおよびSVHNに対して私たちのモデルの性能を示し、得られたクラスタが明確かつ解釈可能であり、最先端の教師なしクラスタリング結果と競合する性能が達成できることを確認しました。