1ヶ月前

自信制御自己学習

Yang Zou; Zhiding Yu; Xiaofeng Liu; B. V. K. Vijaya Kumar; Jinsong Wang
自信制御自己学習
要約

最近のドメイン適応に関する進展は、深層自己学習が非監督ドメイン適応において強力な手段であることを示しています。これらの手法は、通常、ターゲットドメインでの予測を行い、その後確信度の高い予測を疑似ラベルとして再学習に利用する反復プロセスを含んでいます。しかし、疑似ラベルにはノイズが含まれる可能性があるため、自己学習は誤ったクラスに対して過度に自信を持つラベル信念を設定し、誤差が伝播したずれた解に至ることがあります。この問題に対処するために、私たちは正則化された自己学習(Confidence Regularized Self-Training: CRST)フレームワークを提案します。この方法では、疑似ラベルを連続的な潜在変数として扱い、交互最適化を通じて共同で最適化します。私たちは2種類の信頼度正則化を提案します:ラベル正則化(Label Regularization: LR)とモデル正則化(Model Regularization: MR)。CRST-LRはソフトな疑似ラベルを生成し、CRST-MRはネットワーク出力の滑らかさを促進します。画像分類と意味分割における広範な実験結果から、CRSTは非正則化の対応手法よりも優れており、最先端の性能を達成していることが示されています。本研究のコードとモデルは https://github.com/yzou2/CRST で公開されています。

自信制御自己学習 | 最新論文 | HyperAI超神経