Command Palette
Search for a command to run...
EQ-CBM:基于能量模型与量化向量的概率概念瓶颈
EQ-CBM:基于能量模型与量化向量的概率概念瓶颈
Kwang-Ju Kim In-Su Jang Byoung Chul Ko Dasom Ahn Sangwon Kim
摘要
对可靠人工智能系统的需求日益增长,推动了可解释深度神经网络的迫切需求。概念瓶颈模型(Concept Bottleneck Models, CBMs)因其利用人类可理解的概念来提升模型可解释性,已成为一种备受关注的有效方法。然而,现有CBMs由于采用确定性概念编码并依赖不一致的概念,导致预测准确性受限。为此,我们提出EQ-CBM——一种新型框架,通过基于能量模型(Energy-Based Models, EBMs)的概率化概念编码机制,结合量化概念激活向量(quantized Concept Activation Vectors, qCAVs),显著提升了CBMs的性能。EQ-CBM能够有效捕捉不确定性,从而增强预测的可靠性与准确性。通过引入qCAVs,本方法在概念编码阶段选择更具一致性的向量,使任务执行更具确定性,同时支持更高程度的人类干预。在基准数据集上的实证结果表明,所提方法在概念准确率与任务准确率两个方面均优于当前最先进的技术。