ネガティブマージンの重要性：少サンプル分類におけるマージンの理解

本稿では、メトリック学習に基づく少サンプル学習（few-shot learning）手法に新たな「負のマージン損失（negative margin loss）」を導入する。この負のマージン損失は従来のソフトマックス損失（softmax loss）を著しく上回り、わずかな補助的な工夫（few bells and whistles）で、3つの標準的な少サンプル分類ベンチマークにおいて最先端の精度を達成した。これらの結果は、メトリック学習分野における一般的な慣例（マージンはゼロまたは正）と相反するものである。なぜ負のマージン損失が少サンプル分類において優れた性能を発揮するのかを理解するために、我々は訓練クラスおよび新規クラスに対する学習済み特徴の判別能（discriminability）について、実証的および理論的な観点からマージンの違いを分析した。その結果、負のマージンは訓練クラスに対する特徴の判別能を低下させる一方で、同じ新規クラスに属するサンプルが複数のピークやクラスタに誤って割り当てられるのを回避する可能性があり、その結果、新規クラスの判別能が向上することがわかった。コードは以下のURLで公開されている：https://github.com/bl0/negative-margin.few-shot。