HyperAIHyperAI

Command Palette

Search for a command to run...

HySafe-AI:AIシステムのためのハイブリッドセーフティアーキテクチャ分析フレームワーク:ケーススタディ

Mandar Pitale Jelena Frtunikj Abhinaw Priyadershi Vasu Singh Maria Spence

概要

AIは、自律走行システム(ADS)やロボティクスなどの安全が重要な分野において不可欠な技術として定着しつつある。近年の自律システムのアーキテクチャは、大規模言語モデル(LLMs)やビジョン言語モデル(VLMs)などのエンド・トゥ・エンド(E2E)モノリシックアーキテクチャに向かっている傾向にある。本論文では、異なるアーキテクチャの解決策をレビューした後、故障モードと影響分析(FMEA)や故障木分析(FTA)などの一般的な安全分析手法の有効性を評価する。我々は、これらの手法が基礎モデルの複雑な性質にどのように適合し、潜在表現(latent representations)を形成および利用するかについて、改善の方法を示す。さらに、AIシステムの安全性を評価するために従来の手法を適応させたハイブリッドフレームワークであるHySAFE-AI(Hybrid Safety Architectural Analysis Framework for AI Systems)を導入する。最後に、今後の研究の方向性と、将来のAI安全性基準の進化を導くための提言を提示する。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています