HySafe-AI: إطار تحليل المعمارية الآمنة الهجين لنظم الذكاء الاصطناعي: دراسة حالة

لقد أصبح الذكاء الاصطناعي (AI) جزءًا لا يتجزأ من المجالات الحساسة للسلامة مثل أنظمة القيادة الذاتية (ADS) والروبوتات. تتجه معمارية الأنظمة الذاتية الحديثة نحو معمارية موحدة (Monolithic) تامة (End-to-End)، مثل نماذج اللغة الكبيرة (LLMs) ونماذج اللغة والرؤية (VLMs). في هذا المقال، نقوم بمراجعة حلول معمارية مختلفة، ثم نقيّم فعالية التحليلات الأمنية الشائعة مثل تحليل أنماط الأعطال وتحليل أشجار الأعطال (FMEA وFTA). نوضح كيف يمكن تحسين هذه التقنيات لطبيعة النماذج الأساسية المعقدة، وخاصة في كيفية تشكيلها واستخدامها لتمثيلات مخزنة (Latent Representations). نقدم HySAFE-AI، وهو إطار تحليل معماري هجين للأنظمة الذكية (Hybrid Safety Architectural Analysis Framework for AI Systems)، وهو إطار هجين يُعدّل الأساليب التقليدية لتقييم سلامة الأنظمة الذكية. أخيرًا، نقدم مؤشرات لبحوث المستقبل ونقدم اقتراحات لتسهيل تطور معايير سلامة الذكاء الاصطناعي المستقبلية.