2ヶ月前

安定クラスタ判別法による深層クラスタリング

Qi Qian
安定クラスタ判別法による深層クラスタリング
要約

深層クラスタリングは、インスタンスの表現(すなわち、表現学習)を最適化し、同時にデータの内在的な分布(すなわち、クラスタリング)を探求することができます。これは、与えられた特徴量を使用する従来のクラスタリング手法よりも優れた性能を示しています。しかし、結合された目的関数は、すべてのインスタンスが一様な特徴量に収束するという自明な解を暗示しています。この課題に対処するために、表現学習のために追加の事前学習ステージを導入し、その後取得したモデルをクラスタリングのために微調整する二段階の学習戦略が開発されました。一方で、一段階の方法は主に表現学習のために開発されており、各ミニバッチにおいて真実ラベルや特定のクラスターに対する正例がないことによる収束を明示的に避けるため的各种制約が設計されています。これらの方法の成功にもかかわらず、深層クラスタリングに適した学習目的関数について十分に研究されていません。本研究ではまず、教師あり学習における一般的な識別タスクが、真実ラベルと各ミニバッチ内の特定クラスターに対する正例がないために一段階のクラスタリングでは不安定であることを示します。この問題を緩和するために、新しい安定したクラスター識別(SeCu)タスクが提案され、それに応じて新たなハードネス対応型クラスタリング基準が得られます。さらに、効率的な最適化とともにクラスター割り当ての全体会合制約について検討しました。ベンチマークデータセットとImageNetに対して広範な実験が行われましたが、SeCuはこれら全てで最先端の性能を達成しており、一段階深層クラスタリングの有効性を証明しています。コードは\url{https://github.com/idstcv/SeCu}から入手可能です。

安定クラスタ判別法による深層クラスタリング | 最新論文 | HyperAI超神経