HyperAIHyperAI

Command Palette

Search for a command to run...

MiCE:非教師付き画像クラスタリングのための対照的エキスパート混合モデル

Tsung Wei Tsai Chongxuan Li Jun Zhu

概要

本稿では、対照学習によって学習された判別的表現と、潜在混合モデルによって捉えられる意味構造を同時に活用する統一的な確率的クラスタリング枠組みである「対照的エキスパート混合モデル(Mixture of Contrastive Experts: MiCE)」を提案する。混合エキスパート(mixture of experts)のアイデアにインスパイアされ、MiCEはゲーティング関数を用いてラベルなしデータセットを潜在的な意味構造に基づいて部分集合に分割し、複数のエキスパートが対応する部分集合のインスタンスを対照学習の枠組みで区別する。潜在変数によって引き起こされる非自明な推論および学習問題に対処するため、MiCE向けにスケーラブルな期待値最大化(Expectation-Maximization: EM)アルゴリズムの変種をさらに開発し、収束性の証明を提供する。実証的に、MiCEのクラスタリング性能を4つの広く用いられている自然画像データセット上で評価した結果、従来の多数の手法および強力な対照学習ベースラインと比較して、顕著な性能向上を達成した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています