摘要
当面对分布外（Out-of-Distribution, OOD）样本时，深度神经网络往往会产生自信但错误的预测结果。检测OOD样本具有挑战性，且潜在风险较高。本文提出一种基于活动模式与预测类别之间不一致性的方法来识别OOD样本。我们发现，通过Gram矩阵表征神经网络的活动模式，并检测Gram矩阵值中的异常，能够实现较高的OOD检测率。具体而言，我们仅需将每个Gram矩阵元素与其在训练数据中观察到的取值范围进行比较，即可识别异常。与许多现有方法不同，该方法可适用于任意预训练的Softmax分类器，无需访问OOD数据进行超参数微调，也无需在推理阶段访问OOD数据以估计参数。该方法在多种网络架构和视觉数据集上均具有良好的适用性。在检测“远离分布”的OOD样本这一重要且出人意料困难的任务中，其性能通常优于或至少不逊于当前最先进的OOD检测方法（包括那些假设可访问OOD数据的方法）。