SafeML：統計的差分測度を用いた機械学習分類器の安全監視

機械学習（ML）の安全性および説明可能性を確保することは、データ駆動型アプリケーションが従来、高い安全性が求められる領域に進出する中で、ますます重要なテーマとなっている。こうした分野では、ブラックボックスなシステムの運用においては、単なるテストによる検証では十分な安全性を満たせない。特に、安全性とセキュリティの相互作用は中心的な課題であり、セキュリティの侵害が安全性の低下を引き起こす可能性があるためである。本稿では、MLシステムの運用中に適用可能な統一的な保護概念として、経験的累積分布関数（ECDF）に基づく距離尺度を用いた、データ駆動型システムの挙動および運用環境の「アクティブモニタリング」を提案する。これにより、安全性とセキュリティの両面を統合的に扱う可能性が示唆される。本研究では、抽象的なデータセット（XOR、Spiral、Circle）およびネットワークトラフィックの模擬環境における侵入検出に特化したデータセット（CICIDS2017）を用い、コルモゴロフ–スミルノフ検定、クイパー検定、アンダーソン–ダーリング検定、ワッサーシュタイン距離、および混合ワッサーシュタイン–アンダーソン–ダーリング距離といった分布シフト検出手法を検証した。初期の結果から、本アプローチがMLコンポーネントの運用環境が安全性・セキュリティの観点から正当であるかどうかを検出する基盤となる可能性が示唆された。本研究の初期コードおよび結果は、https://github.com/ISorokos/SafeML にて公開されている。