11 天前
EQ-CBM:基于能量模型与量化向量的概率概念瓶颈模型
{Kwang-Ju Kim, In-Su Jang, Byoung Chul Ko, Dasom Ahn, Sangwon Kim}

摘要
对可靠人工智能系统的需求日益增长,推动了可解释深度神经网络的发展。概念瓶颈模型(Concept Bottleneck Models, CBMs)因其利用人类可理解的概念来提升模型可解释性,近年来受到广泛关注。然而,现有CBMs存在概念编码确定性过强以及依赖不一致概念的问题,导致预测准确性下降。为此,本文提出一种新型框架EQ-CBM,通过基于能量模型(Energy-Based Models, EBMs)的 probabilistic(概率性)概念编码机制,结合量化概念激活向量(quantized Concept Activation Vectors, qCAVs),有效增强CBMs的性能。EQ-CBM能够充分捕捉不确定性,从而显著提升预测的可靠性与准确性。通过引入qCAVs,本方法在概念编码阶段选择更具同质性的向量,使任务决策更加明确,同时为更高程度的人机协作提供了可能。在多个基准数据集上的实证结果表明,所提方法在概念准确率与任务准确率两项指标上均优于当前最先进水平。