2ヶ月前

自己監督分類ネットワーク

Elad Amrani; Leonid Karlinsky; Alex Bronstein
自己監督分類ネットワーク
要約

我々はSelf-Classifier -- 新たな自己監督型のエンドツーエンド分類学習手法を提案します。Self-Classifierは、同じサンプルの2つの拡張ビューの同一クラス予測を最適化することで、単一ステージでエンドツーエンドにラベルと表現を同時に学習します。非退化解(すなわち、すべてのラベルが同じクラスに割り当てられる解)を保証するため、予測ラベルに対して均一な事前分布を仮定したクロスエントロピー損失の数理的に動機付けられた変種を提案します。理論解析において、我々は退化解が本手法の最適解集合に含まれないことを証明しました。Self-Classifierは実装が簡単でスケーラブルです。他の一般的な非教師あり分類や対照的表現学習手法とは異なり、事前学習、期待最大化アルゴリズム、疑似ラベリング、外部クラスタリング、2つ目のネットワーク、勾配停止操作、またはネガティブペアを必要としません。その単純さにもかかわらず、本手法はImageNetの非教師あり分類において新しい最先端の結果を達成し、さらに非教師あり表現学習においても最先端と同等の結果を得ています。コードはhttps://github.com/elad-amrani/self-classifier で利用可能です。

自己監督分類ネットワーク | 最新論文 | HyperAI超神経