2ヶ月前

高速かつ柔軟なマルチタスク分類を実現する条件付きニューラルアダプティブプロセス

James Requeima; Jonathan Gordon; John Bronskill; Sebastian Nowozin; Richard E. Turner
高速かつ柔軟なマルチタスク分類を実現する条件付きニューラルアダプティブプロセス
要約

本論文の目的は、初期のマルチタスク学習フェーズを経た後、テスト時に遭遇する新しいタスクに自動的に適応できる画像分類システムを設計することである。この目的のために、マルチタスク分類設定に基づく条件付きニューラルプロセス(Conditional Neural Process)アプローチを導入し、メタ学習とFew-Shot学習に関する文献との関連性を確立する。提案されたアプローチはCNAPsと呼ばれ、その分類器のパラメータは現在のタスクのデータセットを入力として受け取り、適応ネットワークによって調整される。実験結果から、CNAPsがMeta-Datasetベンチマークにおいて最先端の成果を達成しており、高品質な転移学習が行われていることが示された。さらに、本手法がローショット体制では過学習を避け、ハイショット体制では未学習を回避する堅牢性を持つことを確認した。時間計測実験では、CNAPsが勾配ベースの適応を必要としないため、テスト時の計算効率が高いことが明らかになった。最後に、訓練済みモデルが継続的学習や能動的学習に即座に展開可能であり、転移学習を利用しない既存の手法よりも優れた性能を発揮できることを示した。画像分類システム (image classification systems)マルチタスク学習 (multi-task training)条件付きニューラルプロセス (Conditional Neural Process)メタ学習 (meta-learning)Few-Shot学習 (few-shot learning)分類器 (classifier)適応ネットワーク (adaptation network)転移学習 (transfer-learning)ローショット体制 (low-shot regimes)ハイショット体制 (high-shot regimes)継続的学習 (continual learning)能動的学習 (active learning)