2ヶ月前

LEEP: 学習された表現の転移可能性を評価する新しい指標

Cuong V. Nguyen; Tal Hassner; Matthias Seeger; Cedric Archambeau
LEEP: 学習された表現の転移可能性を評価する新しい指標
要約

分類器が学習した表現の転移可能性を評価する新しい指標を提案します。当該指標、Log Expected Empirical Prediction (LEEP)は単純で計算が容易です:ソースデータセットで訓練された分類器が与えられた場合、ターゲットデータセットをこの分類器に一度通すだけで済みます。私たちは理論的にLEEPの特性を分析し、経験的にその有効性を示しました。分析結果によれば、LEEPは小さなデータや非平衡データであっても、転移学習とメタ転移学習手法の性能と収束速度を予測することができます。さらに、LEEPは負の条件エントロピーやHスコアなどの最近提案された転移可能性指標を上回っています。特にImageNetからCIFAR100への転移において、実際の転移精度との相関性に関して最良の競合手法よりも最大30%の改善を達成しています。