HyperAIHyperAI

Command Palette

Search for a command to run...

ラプラシアン正則化を用いた少サンプル学習

Imtiaz Masud Ziko Jose Dolz Eric Granger Ismail Ben Ayed

概要

本研究では、少サンプル学習タスクに向けたトランスダクティブなラプラシアン正則化推論手法を提案する。ベースクラスから学習された任意の特徴埋め込みを入力として、以下の2つの項を含む二次的バイナリ割当関数を最小化する。① クエリサンプルを最も近いクラスプロトタイプに割り当てる単項項、および② 近接するクエリサンプル同士が一貫したラベル割当を持つよう促すペアワイズラプラシアン項である。本手法のトランスダクティブ推論は、ベースモデルの再学習を必要とせず、サポートセットからの教師信号制約のもとでクエリ集合のグラフクラスタリングと見なすことができる。我々は、この関数の緩和形に対する計算効率の高いバウンド最適化手法を導出しており、各クエリサンプルに対して独立かつ並列に更新を行うことができる一方で、収束性を保証している。ベースクラスにおける単純な交差エントロピー学習に続いて、複雑なメタラーニング戦略を用いずに、5つの少サンプル学習ベンチマークにおいて広範な実験を実施した。提案手法LaplacianShotは、異なるモデル、設定、データセットにおいて、最先端手法を著しく上回る性能を一貫して達成した。さらに、本手法のトランスダクティブ推論は非常に高速であり、インダクティブ推論と同程度の計算時間で実行可能であり、大規模な少サンプル学習タスクへの適用も可能である。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています