Score-CAM: Score-가중 시각적 설명 방법론 for Convolutional Neural Networks

최근 합성곱 신경망의 내부 메커니즘과 네트워크가 특정 결정을 내리는 이유에 대한 관심이 증가하고 있습니다. 본 논문에서는 클래스 활성화 매핑(class activation mapping) 기반으로 개발한 새로운 사후(post-hoc) 시각적 설명 방법인 Score-CAM을 제안합니다. 이전의 클래스 활성화 매핑 기반 접근 방식과 달리, Score-CAM은 각 활성화 맵의 타겟 클래스에 대한 전방향 패스 스코어를 통해 그 가중치를 얻음으로써 그래디언트(gradient)에 대한 의존성을 제거합니다. 최종 결과는 가중치와 활성화 맵의 선형 조합을 통해 얻어집니다. 우리는 Score-CAM이 결정 과정 해석에서 더 우수한 시각적 성능과 공정성을 달성함을 보여줍니다. 우리의 접근 방식은 인식 및 위치 추정 작업에서 이전 방법들을 능가하며, 안정성 검사를 통과하였습니다. 또한, 이 방법이 디버깅 도구로 활용될 수 있음을 지적합니다. 공식 코드가 배포되었습니다.