2ヶ月前

ニューラルネットワークにおけるクラスタリングのための潜在表現の学習:疑似教師あり学習とグラフベースの活動正則化を用いて

Ozsel Kilinc; Ismail Uysal
ニューラルネットワークにおけるクラスタリングのための潜在表現の学習:疑似教師あり学習とグラフベースの活動正則化を用いて
要約

本論文では、疑似分類目的を介して間接的に導入される隠れた情報を活用した新しい非監督クラスタリング手法を提案します。具体的には、各観測値にランダムに疑似親クラスラベルを割り当て、その後、割り当てられたラベルに関連するドメイン固有の変換を適用することでラベルを修正します。生成された疑似観測値-ラベルペアは、Auto-clustering Output Layer (ACOL) を持つニューラルネットワークの訓練に使用されます。この ACOL は、各疑似親クラスに対して複数のソフトマックスノードを導入します。グラフベースの活動正則化 (GAR) 項目に基づく非監督目的により、各親クラスのソフトマックス複製が特化し、ドメイン固有の変換によって捉えられた隠れた情報が訓練中に伝播します。最終的には、k-means 友好的な潜在表現を得ることができます。さらに、選択された変換タイプがパフォーマンスに与える影響と、未知のクラスターを明らかにするのに役立つ潜在情報を伝播させる方法についても示しています。我々の結果は、MNIST, SVHN, USPS データセットにおける非監督クラスタリングタスクで最先端の性能を示しており、文献で報告されている最高精度を達成しています。

ニューラルネットワークにおけるクラスタリングのための潜在表現の学習:疑似教師あり学習とグラフベースの活動正則化を用いて | 最新論文 | HyperAI超神経