
要約
先行研究では、学習性を向上させるために、証明可能にノイズにロバストな損失関数(例:平均絶対誤差:MAE)と標準的なカテゴリカル損失関数(例:交差エントロピー:CE)を組み合わせることが有効であることが示されている。本研究では、Jensen-Shannon発散をノイズにロバストな損失関数として用いることを提案し、制御可能な混合パラメータを用いて、CEとMAEの間を滑らかに補間する特性を持つことを示す。さらに、重要な観察として、CEがノイズを含むデータ点の周囲で一貫性が低いことを指摘する。この観察に基づき、複数の分布に対して一般化されたJensen-Shannon発散を採用し、データ点の周囲における一貫性を促進する。本損失関数を用いることで、ノイズ率が異なる合成データ(CIFAR)および現実世界のデータ(例:WebVision)の両方において、最先端の性能を達成することを示した。