L2B：ラベルノイズへの対抗のためにロバストなモデルを学習する手法

深層ニューラルネットワークは表現学習において大きな成功を収めてきた。しかし、ノイズを含むラベル（LNL: Learning with Noisy Labels）を用いた学習では、容易に過学習を起こし、新しいデータへの汎化能力を失う傾向がある。本論文では、誤った擬似ラベルの悪影響を受けずに、モデル自身の予測を用いて自己ブートストラップ（self-bootstrapping）を可能にする、シンプルかつ効果的な手法「Learning to Bootstrap（L2B）」を提案する。この手法は、メタラーニングを用いて、実際の観測ラベルと生成されたラベルの間、および異なるサンプル間の重要度重みを動的に調整することで、その実現を図っている。既存のインスタンス重み付け手法とは異なり、本手法の鍵となるのは、同時に暗黙的なラベル再割り当て（implicit relabeling）を可能にする新しい汎用的最適化目的関数であり、追加コストを伴わずに顕著な性能向上を達成している。L2Bはベースライン手法に比べて複数の利点を持つ。特に、ブートストラッププロセスをより効果的に制御することで、ノイズラベルの影響に対してよりロバストなモデルを構築できる。また、破損したインスタンスに含まれる価値ある情報をより適切に活用するため、インスタンスおよびラベルの重みを動的に調整する。さらに、L2Bは既存のLNL手法と互換性があり、合成的および現実世界のノイズを含む状況下において、画像分類およびセグメンテーションを含む自然画像および医療画像処理タスクで競争力のある性能を発揮している。広範な実験により、本手法がノイズラベルの課題を効果的に緩和でき、多くの場合、検証サンプルをわずかにしか必要とせず、画像セグメンテーションをはじめとする他のタスクにも良好に一般化されることを示した。これにより、既存のLNL技術に対する堅牢な補完手段としての位置づけが示されるとともに、実用的な応用可能性の高さが裏付けられている。コードおよびモデルは、https://github.com/yuyinzhou/l2b にて公開されている。