17日前

DecAug: 分解特徴表現と意味的拡張を用いた分布外一般化

Haoyue Bai, Rui Sun, Lanqing Hong, Fengwei Zhou, Nanyang Ye, Han-Jia Ye, S.-H. Gary Chan, Zhenguo Li
DecAug: 分解特徴表現と意味的拡張を用いた分布外一般化
要約

深層学習は、独立同一分布(IID)データの処理において強力な能力を示す一方で、テストデータが学習データとは異なる分布に属する「分布外(OoD)一般化」の問題に直面することが多い。幅広い応用分野に適用可能な汎用的なOoD一般化フレームワークの設計は、現実世界における相関シフトや多様性シフトの可能性があるため、依然として大きな課題である。従来の多くのアプローチは、特定の分布シフト(たとえばドメイン間のシフトや相関の外挿)にのみ対応可能であり、一般的な解決策とはなっていない。この課題に対処するため、本研究では、OoD一般化のための新しい特徴表現の分解と意味的増強手法であるDecAugを提案する。DecAugは、カテゴリ関連特徴とコンテキスト関連特徴を分離する。カテゴリ関連特徴には、対象物体の因果的情報を含み、コンテキスト関連特徴は属性、スタイル、背景、シーンなど、学習データとテストデータ間の分布シフトを引き起こす要因を記述する。この特徴の分解は、カテゴリラベルとコンテキストラベルの予測に用いる損失関数の、中間特徴に関する勾配を直交化することで実現される。さらに、コンテキスト関連特徴に対して勾配に基づく増強処理を施し、学習された表現のロバスト性を向上させる。実験結果から、DecAugは複数のOoDデータセットにおいて、他の最先端手法を上回る性能を示した。これは、異なる種類のOoD一般化課題に対応可能な非常に少数の手法の一つである。

DecAug: 分解特徴表現と意味的拡張を用いた分布外一般化 | 最新論文 | HyperAI超神経