CMW-Net：ロバストなディープラーニングのためのクラス認識型サンプルウェイトマッピング学習

現代の深層ニューラルネットワークは、誤標籤やクラス不均衡を含むバイアスのあるトレーニングデータに対して容易に過学習する傾向がある。このようなデータバイアスの問題を軽減するために、サンプルの重み付け（sample re-weighting）手法が広く用いられている。しかし、現在の大多数の手法は、取り組む問題の特性やトレーニングデータに依存するため、重み付けスキームおよび追加のハイパーパラメータを手動で事前に設定する必要があり、実用的な場面での一般化には大きな障壁となる。これは、データバイアス状況の複雑さやクラス間の差異が顕著であるためである。本研究では、データから直接明示的な重み付けスキームを適応的に学習可能なメタモデルを提案する。具体的には、各トレーニングクラスを独立した学習タスクとして捉え、サンプルの損失値とタスク／クラス特徴を入力とし、サンプルの重みを出力とする明示的な重み付け関数を学習することを目的とする。これにより、各サンプルクラスの内在的なバイアス特性に基づいて、適応的に変化する重み付けスキームを適用可能となる。合成データおよび実データを用いた実験により、本手法がクラス不均衡、特徴無関係・関係のあるラベルノイズ、さらには従来のケースを超えるより複雑なバイアス状況においても適切な重み付けスキームを実現できることを検証した。さらに、学習した重み付け関数のタスク転移性（task-transferability）も実証された。具体的には、比較的小規模なCIFAR-10データセットで学習した重み付け関数を、はるかに大規模なWebVisionデータセットにそのまま適用することで、追加のハイパーパラメータチューニングやメタ勾配降下ステップを一切行わずに、従来の最先端（SOAT）手法よりも高い性能が達成された。本手法が部分ラベル学習、半教師あり学習、選択的分類といった複数のロバストな深層学習課題に対して一般に適用可能であることも実証された。