2ヶ月前

より一般的な少量学習を実現するための手法、ベースデータなしで

Seong-Woong Kim; Dong-Wan Choi
より一般的な少量学習を実現するための手法、ベースデータなしで
要約

本論文では、ゼロベース汎化少ショット学習(ゼロベースGFSL)を導入し、研究しています。これは、プライバシーや倫理的な問題によりベースデータが利用できない場合に動機付けられた、極端ながら実践的な少ショット学習の問題のバージョンです。ゼロベースGFSLの目的は、ベースクラスのサンプルを使用せずに、事前学習済みモデルに新しいクラスの少数サンプルの知識を新たに組み込むことです。我々の分析によると、新しいクラスの重み分布の平均と分散が、ベースクラスと比較して適切に確立されていないことが明らかになりました。既存のGFSL手法は重みノルムのバランスを取ることを目指していますが、これは分散部分には効果的であるものの、特に新しいクラスにおける重みの平均的重要性を見落としています。これにより、ベースデータを使用した場合でもGFSL問題での性能が制限される原因となっています。本論文では、この制限を克服するために、単純かつ効果的な正規化手法を提案します。この手法は、ベースサンプルを使用せずに新しいクラスの重み分布の平均と分散を効果的に制御できることで、新しいクラスとベースクラス双方において満足できる性能を達成します。我々の実験結果は意外にも、任意のベースサンプルを利用しない提案されたゼロベースGFSL手法が、ベースデータを最大限に活用する既存のGFSL手法よりも優れた性能を示すことを示しています。当該実装は以下のURLから入手可能です:https://github.com/bigdata-inha/Zero-Base-GFSL

より一般的な少量学習を実現するための手法、ベースデータなしで | 最新論文 | HyperAI超神経