TranAD：多次元時系列データにおける異常検出のためのディープトランスフォーマー・ネットワーク

多変量時系列データにおける効率的な異常検出および診断は、現代の産業応用において極めて重要である。しかし、異常観測を迅速かつ正確に特定するシステムを構築することは、依然として大きな課題である。その理由は、異常ラベルの不足、データの高い変動性、および現代の応用において求められる超低遅延推論要件に起因する。最近の深層学習に基づく異常検出手法の発展にもかかわらず、これらの課題をすべて同時に解決できる手法は依然として少数にとどまっている。本論文では、注目機構（attention-based）を用いたシーケンス符号化器を活用し、データ内の広範な時系列トレンドを把握した上で高速な推論を実現する深層Transformerネットワークに基づく異常検出・診断モデル「TranAD」を提案する。TranADは、フォーカススコアに基づく自己条件付け（self-conditioning）により、多モーダルな特徴抽出のロバスト性を確保し、敵対的学習（adversarial training）によってモデルの安定性を向上させる。さらに、モデル非依存のメタ学習（model-agnostic meta learning, MAML）を用いることで、限られたデータでも効果的にモデルを学習可能となる。公開されている6つのデータセットを用いた広範な実証実験の結果、TranADは、データおよび時間効率の観点から最先端のベースライン手法を上回る検出および診断性能を示した。具体的には、F1スコアを最大17%向上させるとともに、学習時間を最大99%短縮することが確認された。