要約
本稿では、対照学習によって学習された判別的表現と、潜在混合モデルによって捉えられる意味構造を同時に活用する統一的な確率的クラスタリング枠組みである「対照的エキスパート混合モデル（Mixture of Contrastive Experts: MiCE）」を提案する。混合エキスパート（mixture of experts）のアイデアにインスパイアされ、MiCEはゲーティング関数を用いてラベルなしデータセットを潜在的な意味構造に基づいて部分集合に分割し、複数のエキスパートが対応する部分集合のインスタンスを対照学習の枠組みで区別する。潜在変数によって引き起こされる非自明な推論および学習問題に対処するため、MiCE向けにスケーラブルな期待値最大化（Expectation-Maximization: EM）アルゴリズムの変種をさらに開発し、収束性の証明を提供する。実証的に、MiCEのクラスタリング性能を4つの広く用いられている自然画像データセット上で評価した結果、従来の多数の手法および強力な対照学習ベースラインと比較して、顕著な性能向上を達成した。