Command Palette
Search for a command to run...
忘却のない学習
忘却のない学習
Li Zhizhong Hoiem Derek
概要
包括統合型ビジョンシステムの構築や、既存システムに段階的に新たな機能を追加する場合、一般的な前提として、すべてのタスクに必要な訓練データが常に利用可能であると仮定される。しかし、タスク数が増加するにつれて、これらのデータを保存し、再訓練するという手法は現実的ではなくなってくる。新たな課題が生じる――つまり、畳み込みニューラルネットワーク(CNN)に新たな機能を追加する際、既存の機能に関する訓練データが入手できない状況である。本研究では、既存の機能を保持しつつ、新しいタスクのデータのみを用いてネットワークを学習する「忘却なき学習(Learning without Forgetting)」という手法を提案する。この手法は、一般的に用いられる特徴抽出やファインチューニングによる適応手法と比較して優れた性能を発揮し、元のタスクデータを用いたマルチタスク学習と同等の性能を達成する。さらに驚くべき点として、忘却なき学習は、旧タスクと新タスクのデータセットが類似している場合、ファインチューニングを代替することで、新たなタスクの性能をさらに向上させることができることが示された。