Command Palette
Search for a command to run...
ディープ埋め込みK-平均クラスタリング
ディープ埋め込みK-平均クラスタリング
Wengang Guo Kaiyan Lin Wei Ye
概要
最近、オートエンコーダなどの深層ニューラルネットワーク(DNN)が持つ高い表現力に注目が集まり、深層クラスタリング手法が注目を集めている。その核心的なアイデアは、表現学習とクラスタリングが互いに強化し合う点にあり、良好な表現は良好なクラスタリングをもたらし、逆に良好なクラスタリングは表現学習に有効な教師信号を提供する。この分野における重要な課題は以下の2点である:1)表現学習とクラスタリングをどのように最適化するか?2)オートエンコーダの再構成誤差を常に考慮すべきか?本論文では、これらの問いに答えるため、DEKM(Deep Embedded K-Means)を提案する。オートエンコーダによって生成される埋め込み空間には、明確なクラスタ構造が見られない場合があるため、我々はさらに埋め込み空間を、クラスタ構造情報を明確に示す新たな空間へと変換する手法を提案する。この変換は、K-meansのクラス内散乱行列の固有ベクトルを含む直交変換行列によって実現される。固有値は、新たな空間における各固有ベクトルがクラスタ構造情報に寄与する重要性を示す。本研究の目的は、クラスタ構造情報の強化である。そのため、デコーダを廃止し、表現の最適化に向けたグリーディ法を提案する。DEKMは、表現学習とクラスタリングを交互に最適化することで、性能を向上させる。実世界のデータセットを用いた実験結果から、DEKMが最先端の性能を達成することが示された。