15 天前
TranAD:用于多变量时间序列数据异常检测的深度Transformer网络
Shreshth Tuli, Giuliano Casale, Nicholas R. Jennings

摘要
在现代工业应用中,高效地实现多变量时间序列数据的异常检测与诊断具有重要意义。然而,构建一个能够快速且准确识别异常观测的系统仍面临巨大挑战,主要原因包括异常标签的缺失、数据的高度波动性,以及现代应用对超低推理时延的严苛要求。尽管近年来深度学习在异常检测领域取得了显著进展,但能够同时应对上述所有挑战的方法仍寥寥无几。本文提出了一种基于深度Transformer网络的异常检测与诊断模型——TranAD。该模型采用基于注意力机制的序列编码器,能够利用数据中更广泛的时序趋势信息,实现快速推理。TranAD通过基于焦点得分的自条件机制,实现鲁棒的多模态特征提取,并结合对抗训练提升模型稳定性。此外,模型无关的元学习(Model-Agnostic Meta Learning, MAML)使模型能够在数据有限的情况下高效训练。在六个公开可用数据集上的大量实证研究结果表明,TranAD在检测与诊断性能上均显著优于当前最先进的基线方法,且具备更高的数据利用效率与训练效率。具体而言,TranAD的F1分数最高可提升17%,同时训练时间相比基线方法最多可减少99%。