11日前

EnAET:アンサンブル変換を用いた自己学習型フレームワークによる半教師あり学習および教師あり学習

Xiao Wang, Daisuke Kihara, Jiebo Luo, Guo-Jun Qi
EnAET:アンサンブル変換を用いた自己学習型フレームワークによる半教師あり学習および教師あり学習
要約

深層ニューラルネットワークは、多くの実世界応用において成功を収めてきた。しかし、こうした成果は、取得にコストがかかる大量のラベル付きデータに大きく依存している。近年、半教師あり学習(semi-supervised learning)のための多数の手法が提案され、優れた性能を達成している。本研究では、自己教師あり情報(self-supervised information)を活用することで、既存の半教師あり学習手法の性能をさらに向上させるための新しいEnAETフレームワークを提案する。我々の知る限り、現在のすべての半教師あり学習手法は、予測の一貫性(prediction consistency)および信頼度(confidence)の概念に基づいて性能を向上させている。本研究では、変換の豊富な族(rich family of transformations)の下で、{\bf 自己教師あり}表現が{\bf 半教師あり}学習において果たす役割を初めて体系的に探求した。その結果、本フレームワークは自己教師あり情報を正則化項として統合でき、{\it 既存のすべての}半教師あり学習手法の性能をさらに向上させることができる。実験では、半教師あり学習において現在の最先端(state-of-the-art)であるMixMatchをベースラインとして用い、提案するEnAETフレームワークの有効性を検証した。異なるデータセットにおいて同一のハイパーパラメータを採用したため、EnAETフレームワークの汎化能力が大幅に向上した。異なるデータセットにおける実験結果から、提案するEnAETフレームワークが既存の半教師あり学習アルゴリズムの性能を著しく向上させることを示した。さらに、本フレームワークは、クラスあたりたった10枚の画像という極めて困難な状況を含む、{\bf 教師あり学習}においても大幅な性能向上を実現している。コードおよび実験記録は、\url{https://github.com/maple-research-lab/EnAET}にて公開されている。

EnAET:アンサンブル変換を用いた自己学習型フレームワークによる半教師あり学習および教師あり学習 | 最新論文 | HyperAI超神経