16일 전

해석 가능한 시각화: 구별 가능한 임베딩 네트워크를 활용한 접근

Isaac Robinson
해석 가능한 시각화: 구별 가능한 임베딩 네트워크를 활용한 접근
초록

우리는 새로운 비지도 Siamese 신경망 학습 방식과 손실 함수를 기반으로 한 시각화 알고리즘을 제안한다. 이를 Differentiating Embedding Networks(DEN)라 부르며, 특정 샘플 쌍 간의 차별적 또는 유사한 특징을 탐지하고, 이러한 특징을 활용해 저차원 공간에 데이터셋을 임베딩함으로써 시각화를 가능하게 한다. 기존의 UMAP나 $t$-SNE와 달리 DEN은 파라메트릭 구조를 갖추고 있어, SHAP와 같은 해석 기법을 통해 모델의 내부 동작을 분석할 수 있다. DEN의 해석을 위해, 시각화 기반으로 종단간 파라메트릭 클러스터링 알고리즘을 구축한 후, 발견된 클러스터를 기반으로 샘플 공간 내에서 시각화된 구조를 이해하는 데 중요한 특징을 SHAP 점수를 활용해 식별한다. 다양한 데이터셋(이미지 데이터 및 scRNA-seq 데이터 포함)에 대해 DEN의 시각화 결과를 기존 기법과 비교한 결과, 클러스터 수에 대한 사전 지식 없이도 최신 기술과 유사한 성능을 보이며, FashionMNIST에서 새로운 최고 성능을 기록했다. 마지막으로, 데이터셋의 차별적 특징을 탐지하는 능력을 실험적으로 입증하였다. 코드는 https://github.com/isaacrob/DEN 에서 제공된다.

해석 가능한 시각화: 구별 가능한 임베딩 네트워크를 활용한 접근 | 최신 연구 논문 | HyperAI초신경