部分ラベル監督による無知的な生成的ノイジーラベル学習

ノイジーラベル学習は、判別的手法と生成的手法の両方で取り組まれてきました。判別的手法の単純さと効率性にもかかわらず、生成モデルはクリーンラベルとノイジーラベルを分離し、ラベル遷移行列を推定するより原理的な方法を提供します。しかし、既存の生成手法は高コストな生成モジュールやヒューリスティックな仮定を通じて追加の潜在変数を推論する必要があり、これが異なる因果関係方向に対する適応的な最適化を妨げています。また、一様なクリーンラベル事前分布を仮定しており、サンプルごとのクリーンラベル分布や不確実性を反映していません。本稿では、これらの課題に対処する新しい生成的ノイジーラベル学習フレームワークを提案します。まず、判別分類器の出力によって画像生成を直接近似する新しい一段階最適化手法を提案します。この近似により、画像生成の計算コストが大幅に削減され、生成モデリングの利点が維持されるとともに、異なる因果関係シナリオ（つまり、画像からラベルを生成するかその逆）に対してフレームワークが非依存性を持つことが可能になります。次に、クリーンラベルのカバレッジと不確実性の両方を取り扱う新しい部分的ラベル監督（Partial Label Supervision: PLS）手法を導入します。PLSの監督は単に損失最小化を目指すだけでなく、サンプルごとのクリーンラベル分布と不確実性を捉えることを目指しています。コンピュータビジョンおよび自然言語処理（NLP）ベンチマークにおける広範な実験結果から、我々の生成モデリングが最先端の成果を得つつ計算コストを大幅に削減できることを示しています。当研究のコードは https://github.com/lfb-1/GNL で公開されています。