自然な adversarial オブジェクト

最先端の物体検出手法は優れた性能を示しているものの、敵対的攻撃や分布外データに対してはしばしば脆弱である。本研究では、物体検出モデルの耐性を評価するための新規データセット「Natural Adversarial Objects（NAO）」を提案する。NAOは、7,934枚の画像と9,943個の物体を含み、実世界の状況を代表する未改変の画像であるが、最先端の検出モデルが高信頼度で誤分類を引き起こす特徴を持つ。EfficientDet-D7の平均精度（mAP）は、標準的なMSCOCO検証セットと比較して、NAO上で74.5%低下した。さらに、さまざまな物体検出アーキテクチャを比較した結果、MSCOCO検証セットでの高い性能がNAOでの性能向上に必ずしも結びつかないことが明らかになった。これは、より正確なモデルを訓練するだけでは耐性を単純に達成できないことを示唆している。また、NAOに含まれるサンプルが検出・分類困難な理由を検証した。画像パッチのシャッフル実験により、モデルが局所的なテクスチャに過度に敏感であることが判明した。さらに、統合勾配法（integrated gradients）と背景置換を用いた分析から、検出モデルはバウンディングボックス内のピクセル情報に依存しており、クラスラベル予測において背景の文脈に対して無関心であることが明らかになった。NAOデータセットは、https://drive.google.com/drive/folders/15P8sOWoJku6SSEiHLEts86ORfytGezi8 からダウンロード可能である。