要約
ラベル付きカテゴリ情報を付与されたデータで訓練されたニューラルネット分類器は、意図的に指示されなくても、カテゴリ間の視覚的類似性を捉えることができる。本研究では、この観察結果が従来の教師あり学習の枠組みを超えて拡張可能かどうかを検討する。すなわち、個々のインスタンス（データ例）を識別可能にするという目的を唯一の制約として与えるだけで、インスタンス間の「見える上の類似性」を捉える優れた特徴表現を学習できるかを問う。この直感をインスタンスレベルでの非パラメトリック分類問題として定式化し、大量のインスタンスクラスに起因する計算上の課題に対処するためにノイズ対比推定（noise-contrastive estimation）を用いる。実験結果により、教師なし学習設定下において、本手法がImageNet分類タスクで従来の最先端技術を大幅に上回ることが示された。また、本手法は、より多くの訓練データやより優れたネットワークアーキテクチャを用いることで、一貫してテスト性能を向上させる点でも顕著である。学習された特徴量を微調整することで、半教師あり学習および物体検出タスクにおいても競争力のある結果が得られた。本手法の非パラメトリックモデルは非常にコンパクトであり、1枚の画像あたり128次元の特徴量を用いる場合、100万枚の画像を保存するのにわずか600MBのストレージで済み、実行時における高速な最近傍探索を可能にしている。