2달 전

설계 시 설명 가능성을 고려한 합성곱 신경망에서의 지역 이산 특징 학습

Pantelis I. Kaplanoglou; Konstantinos Diamantaras
설계 시 설명 가능성을 고려한 합성곱 신경망에서의 지역 이산 특징 학습
초록

우리가 제안한 프레임워크는 성능과 설명성 사이의 균형을 깨기 위해 측면 억제 메커니즘을 기반으로 설계된 설명 가능한 컨볼루션 신경망(CNN)을 도입합니다. ExplaiNet 모델은 예측기와 설명자로 구성되며, 예측기는 잔여 또는 밀집 스킵 연결이 있는 고정밀 CNN이며, 설명자는 네트워크 뉴런들의 공간적 상호작용을 표현하는 확률 그래프입니다. 각 그래프 노드의 값은 로컬 이산 특징(LDF) 벡터로, 활성화 강도 순서대로 정렬된 대립 뉴런의 인덱스를 나타내는 패치 디스크립터이며, 경사 하강법을 통해 학습됩니다. LDF를 시퀀스로 사용하면 분자 생물학에서 주로 사용되는 EM 기반 시퀀스 모티프 발견 방법인 EXTREME를 재활용하여 설명의 간결성을 높일 수 있습니다. 중간 이미지 표현 각각에 대해 연속적인 활성화 텐서 대신 이산 특징 모티프 행렬을 사용함으로써 베이지안 네트워크의 본질적인 설명성을 활용할 수 있습니다. 관찰 값을 수집하고 확률을 직접 계산하여 인접 단계 간 모티프 간의 인과 관계를 설명하고 모델의 출력을 전역 모티프에 속시킬 수 있습니다. 다양한 작은 이미지 벤치마크 데이터셋에 대한 실험 결과, 우리 예측기는 주어진 매개변수 및/또는 층 수에 대해 기준 아키텍처와 동등한 성능을 보장합니다. 우리의 새로운 방법은 이 성능을 초월하면서 추가적인 설명 스트림을 제공할 가능성이 있습니다. 해결된 MNIST 분류 작업에서 표준 학습 설정과 0.75백만 개의 매개변수를 사용하여 단일 모델에 대한 최신 연구 성능과 유사한 결과를 달성하였습니다.

설계 시 설명 가능성을 고려한 합성곱 신경망에서의 지역 이산 특징 학습 | 최신 연구 논문 | HyperAI초신경