Command Palette
Search for a command to run...
CaCo:協調的対抗的対比学習を用いて、ポジティブサンプルとネガティブサンプルの両方が直接学習可能となる
CaCo:協調的対抗的対比学習を用いて、ポジティブサンプルとネガティブサンプルの両方が直接学習可能となる
Xiao Wang Yuhang Huang Dan Zeng Guo-Jun Qi
概要
代表的な自己教師あり手法である対比学習(contrastive learning)は、表現の非教師付き学習において大きな成功を収めてきた。この手法は、クエリアンカー(query anchor)を基準として、ポジティブサンプルとネガティブサンプルを区別する形でエンコーダーを学習する。これらのポジティブおよびネガティブサンプルは、判別性の高いエンコーダーを学習するための目的関数を定義する上で極めて重要な役割を果たしており、自明な特徴の学習を回避する効果を持つ。従来の手法ではこれらのサンプルをヒューリスティックに選定していたが、本研究ではエンコーダーと同時にエンド・トゥ・エンドで直接学習可能なポジティブおよびネガティブサンプルを導入する原理的なアプローチを提案する。我々は、対比損失を最小化することでポジティブサンプルを協調的に学習し、最大化することでネガティブサンプルを敵対的に学習できることを示す。これにより、エンコーダーに対して協調的なポジティブサンプルと敵対的なネガティブサンプルが得られ、これらはミニバッチごとにクエリアンカーの学習済み表現を継続的に追跡するように更新される。提案手法は、ImageNet1K上でResNet-50のバックボーンを200エポックおよび800エポックの前学習を行った場合、それぞれトップ1精度71.3%および75.3%を達成した。マルチクロップ(Multi-Crop)を用いることで、さらに75.7%まで向上する。ソースコードおよび事前学習済みモデルは、https://github.com/maple-research-lab/caco にて公開されている。