2 个月前

层次向量量化变压器在多类无监督异常检测中的应用

Lu, Ruiying ; Wu, YuJie ; Tian, Long ; Wang, Dongsheng ; Chen, Bo ; Liu, Xiyang ; Hu, Ruimin
层次向量量化变压器在多类无监督异常检测中的应用
摘要

无监督图像异常检测(UAD)旨在学习正常样本的鲁棒性和区分性表示。虽然针对每个类别的单独解决方案会导致高昂的计算成本和有限的泛化能力,本文专注于构建一个适用于多个类别的统一框架。在这一具有挑战性的设定下,基于连续潜在表示假设的流行重建网络通常会遇到“相同捷径”问题,即正常样本和异常样本都能被很好地重建,从而难以区分。为了解决这一关键问题,我们提出了一种基于概率框架的分层向量量化原型导向Transformer。首先,我们不是学习连续表示,而是保留典型的正常模式作为离散的标志性原型,并验证了向量量化在防止模型陷入捷径中的重要性。向量量化的标志性原型被集成到Transformer中进行重建,从而使异常数据点转换为正常数据点。其次,我们研究了一种精巧的分层框架来缓解码本崩溃问题并补充脆弱的正常模式。第三,提出了一种原型导向的最佳传输方法,以更好地调节原型并分层次评估异常分数。通过在MVTec-AD和VisA数据集上的评估,我们的模型超越了现有的最先进方法,并且具有良好的可解释性。代码可在 https://github.com/RuiyingLu/HVQ-Trans 获取。