17日前

ドメイン間少サンプル学習におけるタスク固有のアダプタ

Wei-Hong Li, Xialei Liu, Hakan Bilen
ドメイン間少サンプル学習におけるタスク固有のアダプタ
要約

本稿では、少ないラベル付きサンプルしか利用できない未観測のクラスおよびドメインから分類器を学習することを目的としたクロスドメイン少サンプル分類(cross-domain few-shot classification)の問題に着目する。近年のアプローチは、タスクに依存しない重み(task-agnostic weights)とタスクに依存する重み(task-specific weights)を用いて少サンプル分類器をパラメータ化するものが多く、前者は大規模な学習データセット上で事前に学習され、後者は小規模なサポートセットを条件として補助ネットワークによって動的に予測される。本研究では、この後者のタスクに依存する重みの推定に焦点を当て、動的に推定するのではなく、小規模なサポートセット上で直接、新たにタスクに依存する重みを学習する手法を提案する。特に、体系的な分析を通じて、バックボーンネットワークの複数の中間層に残差接続を介して接続された行列形式のパラメトリックアダプタ(parametric adapters)を用いてタスクに依存する重みを学習することで、Meta-Datasetベンチマークにおいて、わずかな追加コストで最先端モデルの性能が著しく向上することを示した。