11일 전

Q-SENN: 양자화된 자기설명형 신경망

Thomas Norrenbrock, Marco Rudolph, Bodo Rosenhahn
Q-SENN: 양자화된 자기설명형 신경망
초록

컴퓨터 비전 분야에서 해석 가능성은 종종 요구되지만, 대부분의 심층 신경망은 신뢰할 수 없는 정확도를 가진 샐런시 맵(attention map)만 제공할 뿐이다. 자기 설명형 신경망(Self-Explaining Neural Networks, SENN)은 해석 가능한 개념을 정확성, 다양성, 그리고 실제 데이터에 대한 지지(grounding)를 충족시키며, 이를 선형적으로 조합하여 의사결정을 수행한다. 비록 이러한 모델은 인식된 내용을 설명할 수는 있지만, 초기 버전에서는 정확도와 일반화 능력이 부족했다. 본 연구에서는 양자화된 자기 설명형 신경망(Quantized-Self-Explaining Neural Network, Q-SENN)을 제안한다. Q-SENN는 SENN의 요구사항을 충족하거나 초과하면서도, 더 복잡한 데이터셋에 적용 가능하며, 해석 불가능한 기준 모델의 대부분 또는 전부의 정확도를 유지한다. 또한, 고려된 모든 지표에서 기존 연구보다 뛰어난 성능을 보였다. Q-SENN는 각 클래스와 특징 간의 관계를 임의의 수의 관계가 아닌, 양성, 음성, 중립의 세 가지 이진적인 관계로 표현함으로써, 인간이 이해하기 쉬운 더 명확한 특징을 강제한다. 평균적으로 각 클래스에 대해 단 5개의 해석 가능한 특징만 할당되므로, Q-SENN는 지역적·전역적 해석 가능성 측면에서 매우 설득력 있는 결과를 제공한다. 더불어, 추가적인 감독 없이 학습된 특징을 인간의 언어 기반 개념과 정렬할 수 있는 특징 정렬 방법을 제안한다. 이를 통해 모델이 학습한 내용을 보다 쉽게 구두로 설명할 수 있다. 코드는 공개되었으며, 다음 링크에서 확인할 수 있다: https://github.com/ThomasNorr/Q-SENN

Q-SENN: 양자화된 자기설명형 신경망 | 최신 연구 논문 | HyperAI초신경