2ヶ月前

CutMix: 局所化可能な特徴を持つ強力な分類器を学習するための正則化戦略

Sangdoo Yun; Dongyoon Han; Seong Joon Oh; Sanghyuk Chun; Junsuk Choe; Youngjoon Yoo
CutMix: 局所化可能な特徴を持つ強力な分類器を学習するための正則化戦略
要約

地域ドロップアウト戦略は、畳み込みニューラルネットワーク分類器の性能向上を目的として提案されています。これらの戦略は、モデルが物体の識別力の低い部分(例えば、人の足部ではなく頭部)に注目することを促進し、ネットワークがより一般的な特徴を学習し、物体の位置特定能力を向上させることが実証されています。一方で、現在の地域ドロップアウト手法では、訓練画像上に黒いピクセルまたはランダムノイズのパッチを重ねることで情報量のあるピクセルを取り除きます。このような取り除き方は望ましくありません。なぜなら、訓練中に情報損失と効率性の低下を引き起こすからです。そこで我々はCutMix拡張戦略を提案します:訓練画像間でパッチを切り取って貼り付け、地面真ラベルもパッチの面積に比例して混ぜます。これにより訓練ピクセルを効率的に利用しつつ、地域ドロップアウトの正則化効果も維持できるため、CutMixはCIFARやImageNet分類タスクにおいて最新の拡張戦略よりも一貫して優れた性能を示しています。また、ImageNet弱教師あり位置特定タスクでも同様に優れています。さらに、以前の拡張手法とは異なり、CutMixで訓練されたImageNet分類器を使用した場合、事前学習モデルとして使用することでPascal検出やMS-COCO画像キャプション生成ベンチマークでの性能向上が一貫して見られます。また、我々はCutMixが入力破壊に対するモデルの堅牢性と分布外検出性能も改善することを示しています。ソースコードおよび事前学習済みモデルは https://github.com/clovaai/CutMix-PyTorch から入手可能です。