17日前

トランスダクティブ少データ分類のための適応的次元削減と変分推論

Yuqing Hu, Stéphane Pateux, Vincent Gripon
トランスダクティブ少データ分類のための適応的次元削減と変分推論
要約

近年、少量ラベル付きデータにおけるデータアノテーションコストの高さと、少量サンプル学習(Few-Shot Learning)において未ラベルデータがもたらす精度向上の可能性を踏まえ、トランスダクティブ少サンプル学習(Transductive Few-Shot Learning)への関心が高まっている。特に少サンプル分類(Few-Shot Classification, FSC)において、最近の研究では未知パラメータに対する尤度や事後確率を最大化するための特徴分布の探索が進められている。このような研究の流れを踏襲しつつ、FSCとクラスタリングの類似性に着目し、データ不足に起因する推定における不確実性をより適切に扱うとともに、各クラスに付随するクラスタの統計的性質を改善することを目指す。本論文では、変分ベイズ推論(Variational Bayesian Inference)に基づく新たなクラスタリング手法を提案し、さらに確率的線形判別分析(Probabilistic Linear Discriminant Analysis)を用いた適応的次元削減によってその性能を向上させた。本手法は、既存研究で用いられた特徴量に対して適用した場合、実用的で非平衡なトランスダクティブ設定において、複数の少サンプルベンチマークで顕著な精度向上を達成し、最大で6%の精度向上を実現した。また、平衡な設定においても、実用性に疑問が呈されるクラスバランスの人工的仮定を一切用いずに、非常に競争力のある結果を獲得した。さらに、高性能な事前学習済みバックボーンを用いた実験においても本手法の有効性を検証し、報告された結果は既存の最先端性能を上回るまでに至った。これらは、提案手法の汎用性を強く示唆している。