SURE: SUrvey REcipes for building reliable and robust deep networks SURE: 深層ネットワークの信頼性と堅牢性を構築するための調査レシピ

本論文では、深層ニューラルネットワークにおける不確実性推定の技術を再検討し、それらの信頼性を向上させるための一連の手法を体系化します。我々の調査は、モデル正則化、分類器、最適化にわたる多様な手法の統合的な適用が、画像分類タスクにおける不確実性予測の精度を大幅に向上させることを明らかにしました。これらの手法の相乗効果により、我々は新たなSUREアプローチを開発しました。SUREは、不確実性推定の有効性を評価する重要なテストベッドである失敗予測ベンチマークに対して厳密に評価されました。結果は、様々なデータセットやモデルアーキテクチャにおいて、各手法を個別に適用したモデルよりも一貫して優れた性能を示しています。データ破損、ラベルノイズ、長尾分布クラスなどの実世界課題に対してもSUREは著しい堅牢性を示し、現行の最先端専門手法と同等かそれ以上の結果を提供します。特にノイジーラベル学習におけるAnimal-10NとFood-101NでSUREはタスク固有の調整なしで最先端の性能を達成しています。本研究は堅牢な不確実性推定の新しい基準を設定するとともに、信頼性が極めて重要な多様な実世界シナリオでの応用への道を開きます。当該コードは\url{https://yutingli0606.github.io/SURE/}から入手可能です。