HySafe-AI：AIシステムのためのハイブリッドセーフティアーキテクチャ分析フレームワーク：ケーススタディ

AIは、自律走行システム（ADS）やロボティクスなどの安全が重要な分野において不可欠な技術として定着しつつある。近年の自律システムのアーキテクチャは、大規模言語モデル（LLMs）やビジョン言語モデル（VLMs）などのエンド・トゥ・エンド（E2E）モノリシックアーキテクチャに向かっている傾向にある。本論文では、異なるアーキテクチャの解決策をレビューした後、故障モードと影響分析（FMEA）や故障木分析（FTA）などの一般的な安全分析手法の有効性を評価する。我々は、これらの手法が基礎モデルの複雑な性質にどのように適合し、潜在表現（latent representations）を形成および利用するかについて、改善の方法を示す。さらに、AIシステムの安全性を評価するために従来の手法を適応させたハイブリッドフレームワークであるHySAFE-AI（Hybrid Safety Architectural Analysis Framework for AI Systems）を導入する。最後に、今後の研究の方向性と、将来のAI安全性基準の進化を導くための提言を提示する。