11日前

共通するノイズに対するロバスト性の向上:共変量シフト適応による手法

Steffen Schneider, Evgenia Rusak, Luisa Eck, Oliver Bringmann, Wieland Brendel, Matthias Bethge
共通するノイズに対するロバスト性の向上:共変量シフト適応による手法
要約

今日の最先端機械視覚モデルは、ぼかしや圧縮アーティファクトなどの画像劣化に対して脆弱であり、多くの実世界応用における性能を制限している。本研究では、一般的な画像劣化に対するモデルのロバスト性を評価するための代表的なベンチマーク(例:ImageNet-C)が、多くの(ただしすべてではない)応用状況においてモデルの実際のロバスト性を低く評価していると主張する。重要な洞察は、多くの実環境において、劣化画像のラベルなしサンプルが複数入手可能であり、これらを用いて教師なしオンライン適応を行うことができる点にある。トレーニングデータ上でバッチ正規化が推定する活性化統計を、劣化画像の統計に置き換えることで、25種類の代表的なコンピュータビジョンモデルにおいて一貫してロバスト性が向上する。修正された統計を用いることで、ResNet-50はImageNet-Cにおいて適応なしの76.7% mCEから62.2% mCEまで改善した。さらに、よりロバストなDeepAugment+AugMixモデルを用いることで、これまでのResNet-50モデルが達成した最良成績(53.6% mCE)を45.4% mCEまで向上させた。単一のサンプルに対する適応でも、ResNet-50およびAugMixモデルのロバスト性が向上し、32個のサンプルで既存のResNet-50アーキテクチャにおける最良成績を上回る結果が得られた。本研究では、劣化ベンチマークやその他の分布外一般化設定でのスコア報告において、適応後の統計に基づく結果を常に含めるべきであると主張する。

共通するノイズに対するロバスト性の向上:共変量シフト適応による手法 | 最新論文 | HyperAI超神経