2ヶ月前

少ないほど良い:サブモジュラーサブセット選択を用いた解釈可能な領域の削減

Chen, Ruoyu ; Zhang, Hua ; Liang, Siyuan ; Li, Jingzhi ; Cao, Xiaochun
少ないほど良い:サブモジュラーサブセット選択を用いた解釈可能な領域の削減
要約

画像属性付与アルゴリズムは、モデルの決定に強く関連する重要な領域を特定することを目指しています。既存の属性付与手法は目標要素に対する重要性を効果的に割り当てることができますが、以下の課題が依然として存在しています:1) 既存の属性付与方法は不正確な小さな領域を生成し、正しい属性付与の方向性を誤導する可能性があります;2) モデルは予測が間違っているサンプルに対して良好な属性付与結果を生成できません。これらの課題に対処するために、本論文では上記の画像属性付与問題をサブモジュラ部分集合選択問題として再定式化し、より少ない領域を使用してモデルの解釈可能性を向上させることを目指しています。局所領域への注意不足に対処するため、我々はより正確な小さな解釈領域を見つけるために新しいサブモジュラ関数を構築しました。また、すべてのサンプルの属性付与効果を向上させるため、部分領域の選択に対して信頼度(confidence)、有効性(effectiveness)、一貫性(consistency)、協調性(collaboration)スコアという4つの異なる制約条件を課し、さまざまな部分集合の重要性を評価します。さらに、我々の理論的な分析により、提案された関数が実際にはサブモジュラであることが確認されています。広範囲にわたる実験により、提案された手法が2つの顔データセット(Celeb-AおよびVGG-Face2)と1つの細かい分類データセット(CUB-200-2011)においてSOTA手法よりも優れていることが示されました。正しく予測されたサンプルの場合、提案手法はHSIC-Attributionに対して削除(Deletion)スコアと挿入(Insertion)スコアでそれぞれ平均4.9%と2.5%の改善を達成しました。誤って予測されたサンプルの場合、我々の手法は平均最高信頼度スコアと挿入スコアでそれぞれHSIC-Attributionアルゴリズムに対して81.0%と18.4%の改善を達成しました。コードはhttps://github.com/RuoyuChen10/SMDL-Attributionで公開されています。

少ないほど良い:サブモジュラーサブセット選択を用いた解釈可能な領域の削減 | 最新論文 | HyperAI超神経