要約
本稿では、インスタンスレベルおよびクラスタレベルの対照学習を明示的に行う一段階的オンラインクラスタリング手法である「コントラスティブクラスタリング（Contrastive Clustering, CC）」を提案する。具体的には、与えられたデータセットに対して、データ拡張を用いてポジティブおよびネガティブなインスタンスペアを構築し、それらを特徴空間に射影する。その後、行空間においてインスタンスレベルの対照学習、列空間においてクラスタレベルの対照学習をそれぞれ実施する。この際、ポジティブペアの類似度を最大化し、ネガティブペアの類似度を最小化することで学習を進める。本研究の重要な観察は、特徴行列の各行がインスタンスに対するソフトラベルと見なせることであり、その結果、列はクラスタ表現と解釈できるという点である。インスタンスレベルおよびクラスタレベルの対照損失を同時に最適化することで、モデルはエンド・ツー・エンドの枠組みで表現学習とクラスタ割り当てを共同で学習する。広範な実験結果から、CCは6つの挑戦的な画像ベンチマークにおいて、17の競合するクラスタリング手法を著しく上回ることが示された。特に、CIFAR-10（CIFAR-100）データセットにおいて、NMI（ノルム化相互情報量）は0.705（0.431）を達成し、最良のベースラインと比較して最大で19%（39%）の性能向上を実現した。