LLPを用いたニューラルネットワークの意思決定を説明するためのベストプラクティスへの道

過去10年間、ニューラルネットワークに基づく予測モデルは、驚異的かつ場合によっては人間を上回る性能を示してきた。しかし、その高い性能は予測プロセスの不透明性という代償を伴うことが多く、その結果、説明可能な人工知能（XAI: Explainable Artificial Intelligence）という新しい分野が多数の貢献をもたらした。本論文では、XAIの代表的な手法の一つである「レイヤーごとの関連性伝播法（Layer-wise Relevance Propagation: LRP）」に注目する。LRPは初出以来、手法として進化を遂げており、近年の文献で広く用いられている「最良の実践法（best practice）」が、人間による観察に基づいて暗黙のうちに定着してきた。本研究では、初めてその最良実践法が前向きなニューラルネットワークにおける視覚的物体検出タスクに与える影響を定量的に検証する。その結果、最近の文献で採用されているレイヤー依存型のLRPアプローチが、モデルの推論をより正確に表現していることが確認された一方で、物体の局在性およびクラス判別能も向上することが明らかになった。