13日前

クラス増分学習のためのコートランスポート

Da-Wei Zhou, Han-Jia Ye, De-Chuan Zhan
クラス増分学習のためのコートランスポート
要約

従来の学習システムは、固定されたクラス数に対して閉世界(closed-world)で訓練され、事前に収集されたデータセットが必要である。しかし、実世界の応用においては、新たなクラスが頻繁に出現し、それらを段階的に学習する必要がある。たとえば、電子商取引では日々新しい製品種別が登場し、ソーシャルメディアコミュニティでは新しいトピックが常に出現する。このような状況下で、インクリメンタルモデルは、忘却を避けながら複数の新しいクラスを同時に学習する必要がある。本研究では、インクリメンタル学習において、古いクラスと新しいクラスの間に強い相関関係が存在することを発見した。この相関関係は、異なる学習段階を相互に結びつけ、学習を促進するための有効な手段となる。その結果、クラスごとの意味的関係を活用して、インクリメンタルタスク間で関連性を学習する「クラスインクリメンタル学習のためのCO-transport(COIL)」を提案する。具体的には、COILは二つの側面を持つ:前向き輸送(prospective transport)は、最適な知識を移動させることで、古い分類器を迅速に拡張し、モデルの適応を高速化する。後向き輸送(retrospective transport)は、新しいクラスの分類器を過去のクラスとして再利用可能にするように逆方向に移動させ、忘却を克服することを目的とする。これらの輸送機構により、COILは新しいタスクに効率的に適応し、忘却に対して安定した性能を発揮する。ベンチマークおよび実世界のマルチメディアデータセットを用いた実験により、本手法の有効性が実証された。

クラス増分学習のためのコートランスポート | 最新論文 | HyperAI超神経