17日前

ラプラシアン正則化を用いた少データ学習

{Imtiaz Masud Ziko; Jose Dolz; Eric Granger; Ismail Ben Ayed}
ラプラシアン正則化を用いた少データ学習
要約

本稿では、少サンプル学習タスクに向けた伝達型ラプラシアン正則化推論手法を提案する。ベースクラスから学習された任意の特徴埋め込みを入力として、以下の2つの項を含む二次バイナリ割り当て関数を最小化する。1)クエリサンプルを最も近いクラスプロトタイプに割り当てる単項項、2)近接するクエリサンプルが一貫したラベル割り当てを持つことを促進するペアワイズラプラシアン項。本手法における伝達型推論はベースモデルの再学習を必要とせず、サポートセットからの監督制約を受けてクエリ集合に対するグラフクラスタリングと捉えることができる。本手法の関数の緩和形に対する計算効率の高いバウンダー最適化手法を導出しており、各クエリサンプルについて独立(並列)な更新が可能でありながら収束性を保証している。ベースクラスにおける単純な交差エントロピー学習に基づき、複雑なメタラーニング戦略を用いずに、5つの少サンプル学習ベンチマークにおいて包括的な実験を実施した。提案手法であるLaplacianShotは、異なるモデル、設定、データセットにおいて、最先端手法を著しく上回る性能を一貫して達成した。さらに、本手法の伝達型推論は非常に高速であり、インダクティブ推論と同等の計算時間で実行可能であり、大規模な少サンプル学習タスクへの応用も可能である。