16日前
FeTrIL:エクサムプルフリークラス増分学習のための特徴翻訳
Grégoire Petit, Adrian Popescu, Hugo Schindler, David Picard, Bertrand Delezoide

要約
エクゼンプラフリーなクラス増分学習は、災害的忘却(catastrophic forgetting)の悪影響により極めて困難である。過去のクラスおよび新たなクラスの両方に対して高い精度を達成するためには、増分プロセスにおける安定性と可塑性のバランスを取る必要がある。既存のエクゼンプラフリーなクラス増分学習手法は、いずれか一方に偏っている。すなわち、モデルの逐次的な微調整に注力するもの(可塑性を重視)か、初期の増分段階以降は特徴抽出器を固定するもの(安定性を重視)である。本研究では、固定された特徴抽出器と疑似特徴生成器を組み合わせることで、安定性と可塑性のバランスを向上させる手法を提案する。生成器は、新規クラスの特徴に対して単純ながら効果的な幾何学的変換を施し、過去のクラスの表現を疑似特徴として生成する。この特徴変換には、過去のクラスの特徴の重心表現(centroid representations)を保存するだけで十分であり、記憶コストを低く抑えることができる。新規クラスの実際の特徴と、過去クラスの疑似特徴を統合して、線形分類器に投入し、逐次的に学習することで、すべてのクラスを区別する能力を獲得する。提案手法は、従来の深層モデル全体を更新する主流手法と比較して、増分プロセスが大幅に高速化される。3つの挑戦的なデータセットおよび異なる増分設定下での実験により、10の既存手法と比較した結果、本手法は多数のケースで優れた性能を示した。