17日前

少数ショット学習のためのモデル非依存型グラフ正則化

Ethan Shen, Maria Brbic, Nicholas Monath, Jiaqi Zhai, Manzil Zaheer, Jure Leskovec
少数ショット学習のためのモデル非依存型グラフ正則化
要約

多くの分野において、カテゴリ間の関係は知識グラフに符号化されている。近年、限られたデータを持つハード分類タスクにおいて、知識グラフを補助情報として組み込むことで、有望な成果が得られている。しかし、従来のモデルは複数のサブコンポーネントを有する極めて複雑なアーキテクチャから構成されており、すべての構成要素が性能に影響を与えているように見える。本稿では、グラフ埋め込みを用いた少サンプル学習(few-shot learning)について包括的な実証的研究を実施する。我々は、ラベル間のグラフ情報の統合がもたらす影響をより深く理解できるよう、グラフ正則化手法を提案する。本手法は広範な適用性とモデル非依存性を備えており、ファインチューニング、メトリックベース、最適化ベースのメタラーニングを含む、あらゆる少サンプル学習モデルの性能向上を可能にする。実験結果から、Mini-ImageNetでは強力なベースラーナーの性能を最大2%向上させ、ImageNet-FSでは最大6.7%向上させ、最先端のグラフ埋め込み手法を上回った。さらに、追加的な分析により、グラフ正則化を施したモデルは、ショット数が少なく、サポート例の情報量が低いといった困難なタスクにおいて、より低い損失を達成することが明らかになった。

少数ショット学習のためのモデル非依存型グラフ正則化 | 最新論文 | HyperAI超神経