12日前

概念グラフ埋め込みモデルによる精度および解釈可能性の向上

{Byoung Chul Ko, Sangwon Kim}
要約

高い責任要件が求められる分野では、画像分類の原因を分析する際、深層学習モデルがどのように意思決定を行っているかを理解することが不可欠である。近年、高次の概念を用いて深層学習モデルの内部メカニズムを明らかにするため、概念ベースの解釈手法が導入されている。しかし、これらの手法は、精度と解釈可能性の間でトレードオフに直面している。例えば、実世界の環境では、整理された訓練データとは異なり、異なる物体によって引き起こされる多様な歪みや複雑さのため、期待される概念の正確な予測が困難となる。このトレードオフを克服するため、本研究では、相互の方向性を学習することで、概念間の複雑な依存関係や構造を反映する「概念グラフ埋め込みモデル(Concept Graph Embedding Models: CGEM)」を提案する。CGEMの下流タスクとしての「概念グラフ畳み込みニューラルネットワーク(Concept GCN)」は、従来の手法が概念の存在有無を単独で判断するのに対し、グラフ埋め込みによって学習された概念間の関係に基づいて最終的な分類を行う点で異なり、誤った概念が存在する状況下でも高い耐障害性を有する。さらに、初期段階でのオブジェクト中心の概念符号化に可変型二部グラフ畳み込みネットワーク(deformable bipartite GCN)を活用することで、概念の均質性を向上させた。実験の結果、可変型概念符号化に基づくCGEMは、タスクの精度と解釈可能性の間のトレードオフを緩和することが示された。また、本手法が、さまざまな実世界における概念の歪みや誤った概念の干渉に対して堅牢性を維持しつつ、モデルの耐障害性と解釈可能性を高めることも確認された。本研究のコードは、https://github.com/jumpsnack/cgem にて公開されている。

概念グラフ埋め込みモデルによる精度および解釈可能性の向上 | 最新論文 | HyperAI超神経