要約
クラスラベルが注釈されたデータで訓練されたニューラルネットワーク分類器は、そのように指示されなくても、カテゴリ間の視覚的な類似性を捉えることができます。本研究では、この観察が監督学習の従来の領域を超えて適用できるかどうかを検討します。すなわち、個々のインスタンスを区別する特徴量を求めることで、クラスではなくインスタンス間の視覚的な類似性を捉える良い特徴表現を学習できるでしょうか？この直感をインスタンスレベルでの非パラメトリック分類問題として定式化し、多数のインスタンスクラスによって引き起こされる計算上の課題に対処するためにノイズ対比推定（Noise-Contrastive Estimation）を使用しました。実験結果は、無監督学習設定において、当方法がImageNet分類で現行の最先端技術を大幅に上回ることを示しています。また、当方法は訓練データ量やネットワークアーキテクチャの向上に伴い一貫してテスト性能が向上することでも注目されます。学習した特徴量の微調整により、半教師あり学習や物体検出タスクでも競争力のある結果を得ています。当非パラメトリックモデルは非常にコンパクトであり、画像1枚あたり128次元の特徴量を使用することで、100万枚の画像に対してわずか600MBのストレージしか必要とせず、実行時に高速な近傍探索が可能となります。