2ヶ月前

非監督メタ学習の再検討:Few-Shot タスクの特性を通じて

Han-Jia Ye; Lu Han; De-Chuan Zhan
非監督メタ学習の再検討:Few-Shot タスクの特性を通じて
要約

メタ学習は、ラベル付きの基本クラスで「分類器を学習する戦略」をメタ学習し、新しいクラスのタスクに適用できる実用的なアプローチとして、少ショット画像分類において注目を集めています。本研究では、基本クラスのラベルを必要とせずに、無監督メタ学習(Unsupervised Meta-Learning: UML)を通じて汎化可能な埋め込みを学習することを目指します。具体的には、メタトレーニング中にラベルなし的基本クラスからデータ拡張を行い、各エピソードのタスクを構築します。そして、メタテスト時にはラベル付きの少ショットサンプルを使用して新しいタスクに埋め込みベースの分類器を適用します。我々はUMLにおいて2つの要素が重要な役割を果たすことを観察しました。すなわち、タスクのサンプリング方法とインスタンス間の類似性測定です。これにより、2つの単純な修正によって強力なベースラインを得ました。1つ目はエピソードごとに複数のタスクを効率的に構築する十分なサンプリング戦略であり、2つ目は半正規化された類似性測定です。さらに、2つの方向からタスクの特性を利用することでさらなる改善を図りました。まず、合成された混乱インスタンスを取り入れることでより識別力のある埋め込みを抽出するのに役立てます。次に、メタトレーニング中に補助コンポーネントとして追加的なタスク固有の埋め込み変換を利用することで、事前適応された埋め込みの汎化能力を向上させます。少ショット学習ベンチマークでの実験結果は、我々の手法が以前のUML手法よりも優れており、その監督付きバリアントと同等かそれ以上の性能を達成していることを確認しています。

非監督メタ学習の再検討:Few-Shot タスクの特性を通じて | 最新論文 | HyperAI超神経