HySafe-AI: Hybrid Sicherheitsarchitekturanalyse-Rahmenwerk für KI-Systeme: Eine Fallstudie

Die Künstliche Intelligenz (KI) hat sich in sicherheitskritischen Bereichen wie autonomen Fahrzeugsystemen (ADS) und Robotik zu einem unverzichtbaren Bestandteil entwickelt. Die Architekturen moderner autonomer Systeme neigen zunehmend zu end-to-end (E2E)-monolithischen Architekturen, wie beispielsweise großen Sprachmodellen (LLMs) und visuellen Sprachmodellen (VLMs). In diesem Artikel überprüfen wir verschiedene architektonische Lösungen und bewerten anschließend die Effektivität üblicher Sicherheitsanalysen, wie beispielsweise FMEA (Failure Modes and Effects Analysis, Fehlertypen- und Auswirkungsanalyse) und FTA (Fault Tree Analysis, Fehlerbaumanalyse). Wir zeigen, wie diese Techniken für die komplexe Natur der Grundlagenmodelle optimiert werden können, insbesondere in Bezug auf die Bildung und Nutzung latenter Darstellungen. Wir stellen HySAFE-AI, ein Hybrid-Sicherheitsarchitekturanalyse-Frame-work für KI-Systeme, vor. Es handelt sich um ein hybrides Framework, das traditionelle Methoden anpasst, um die Sicherheit von KI-Systemen zu bewerten. Zuletzt geben wir Hinweise auf zukünftige Forschungsrichtungen und Vorschläge, um die Entwicklung zukünftiger KI-Sicherheitsstandards zu leiten.