HySafe-AI: 인공지능 시스템을 위한 하이브리드 안전 아키텍처 분석 프레임워크: 사례 연구

AI는 자율 주행 시스템(Autonomous Driving System, ADS) 및 로봇과 같은 안전이 중요한 분야에서 필수적인 기술로 자리 잡았습니다. 최근 자율 시스템의 아키텍처는 대규모 언어 모델(Large Language Model, LLM)과 시각-언어 모델(Vision Language Model, VLM)과 같은 엔드투엔드(End-to-End, E2E) 단일 아키텍처로 방향을 전환하고 있습니다. 본 논문에서는 다양한 아키텍처 솔루션을 검토한 후, 고장 모드와 영향 분석(Failure Modes and Effects Analysis, FMEA) 및 고장 나무 분석(Fault Tree Analysis, FTA)과 같은 일반적인 안전 분석 기법의 유효성을 평가합니다. 우리는 이러한 기법들이 기초 모델의 복잡한 특성, 특히 잠재 표현(Latent Representation)의 형성과 활용 방식에 어떻게 개선될 수 있는지를 보여줍니다. 또한, AI 시스템의 안전성을 평가하기 위해 전통적인 방법을 적응시킨 하이브리드 프레임워크인 HySAFE-AI(Hybrid Safety Architectural Analysis Framework for AI Systems)를 제시합니다. 마지막으로, 미래 연구 방향과 미래 AI 안전 기준의 발전을 안내하기 위한 제안을 제공합니다.