EQ-CBM: 에너지 기반 모델과 양자화 벡터를 활용한 확률적 개념 봉쇄 모델

신뢰할 수 있는 AI 시스템에 대한 수요가 증가함에 따라 해석 가능한 심층 신경망의 필요성이 더욱 강조되고 있다. 개념 버블릿 모델(Concept Bottleneck Models, CBMs)은 인간이 이해할 수 있는 개념을 활용함으로써 해석성을 향상시키는 효과적인 접근법으로 주목받고 있다. 그러나 기존의 CBMs는 결정론적 개념 인코딩과 일관성 없는 개념에 의존하는 문제로 인해 정확도에 한계를 겪고 있다. 본 연구에서는 에너지 기반 모델(Energy-Based Models, EBMs)을 사용한 확률적 개념 인코딩과 양자화된 개념 활성화 벡터(quantized Concept Activation Vectors, qCAVs)를 도입하여 CBMs를 개선하는 새로운 프레임워크 EQ-CBM을 제안한다. EQ-CBM은 불확실성을 효과적으로 포착함으로써 예측의 신뢰성과 정확도를 향상시킨다. qCAVs를 활용함으로써 개념 인코딩 과정에서 균일한 벡터를 선택할 수 있어, 보다 명확한 작업 수행이 가능하며, 인간의 개입 수준을 높이는 데 기여한다. 기준 데이터셋을 활용한 실험 결과를 통해 제안하는 방법이 최신 기술 대비 개념 정확도와 작업 정확도 모두에서 우수한 성능을 보임을 입증하였다.