LLRP를 활용한 신경망 결정 해석을 위한 최선의 실천 방안 제시

지난 10년간 신경망 기반 예측기(neural network based predictors)는 놀라운, 때로는 인간을 초월하는 성능을 보여왔다. 그러나 이러한 성능은 예측 과정의 투명성 부족이라는 대가를 치르는 경우가 많아, 해석 가능한 인공지능(XAI, Explainable Artificial Intelligence)이라는 새로운 분야에 수많은 기여를 촉발시켰다. 본 논문에서는 XAI 분야에서 널리 사용되는 대표적인 방법 중 하나인 계층별 관련성 전파(Layer-wise Relevance Propagation, LRP)에 초점을 맞춘다. LRP는 처음 제안된 이후 여러 차례 발전해왔으며, 최근 문헌에서 널리 채택된 최적의 적용 방법이 인간의 관찰에 기반한 암묵적인 합의 형태로 정착되어 왔다. 본 논문에서는 이러한 현재의 최적 방법이 전방향 신경망(feedforward neural networks)에 미치는 영향을 처음으로 정량적으로 분석하고, 시각적 객체 탐지 환경에서 그 효과를 검증한다. 결과는 최근 문헌에서 채택된 계층별 접근 방식의 LRP가 모델의 추론 과정을 더 정확히 반영할 뿐만 아니라, 객체 위치 추정 정확도와 클래스 구분 능력도 동시에 향상시킨다는 점을 확인하였다.