2ヶ月前

正しい多様体の選択:ファーウェイショットラーニングのための多様体ミックスアップ

Puneet Mangla; Mayank Singh; Abhishek Sinha; Nupur Kumari; Vineeth N Balasubramanian; Balaji Krishnamurthy
正しい多様体の選択:ファーウェイショットラーニングのための多様体ミックスアップ
要約

少ショット学習アルゴリズムは、わずかなラベル付きサンプルの助けを借りて未見のクラスに適応できるモデルパラメータを学習することを目指しています。最近の正則化技術であるマニフォールドミックスアップ(Manifold Mixup)は、データ分布の小さな変化に対して堅牢な汎用的な表現を学習することに焦点を当てています。少ショット学習の目標が堅牢な表現学習と密接に関連していることから、本研究ではマニフォールドミックスアップをこの問題設定で検討します。自己教師なし学習は、データの内在的な構造のみを使用して意味的に重要な特徴を学習する別の技術です。本研究では、自己教師ありと正則化技術を使用して少ショットタスクに適した特徴マニフォールドを学習することの役割について調査します。観察結果によると、自己教師あり技術により豊かになった特徴マニフォールドをマニフォールドミックスアップで正則化することで、少ショット学習の性能が大幅に向上することが確認されました。提案手法S2M2は、CIFAR-FS、CUB、mini-ImageNetおよびtiered-ImageNetなどの標準的な少ショット学習データセットにおいて、現行の最先端精度を3-8%上回ることが示されました。広範な実験を通じて、当方針に基づいて学習された特徴量が複雑な少ショット評価タスクやクロスドメインシナリオに対応し、データ分布の微小な変動にも堅牢であることを示しました。