NVIDIA stellt Minerva für KI-Fabrik-Observability vor
NVIDIA hat mit Minerva eine AIOps-Plattform vorgestellt, die eine durchgängige Beobachtbarkeit von AI Factories ermöglichen soll. Die Lösung bündelt Telemetriedaten aus Infrastruktur und KI-Workloads und nutzt spezielle KI-Modelle, um daraus frühzeitige und handlungsrelevante Erkenntnisse abzuleiten. Ziel ist es, die Produktivität von Hochleistungsverteilern aus GPUs, Netzwerk und Speicher zu sichern, in denen bereits einzelne degradierte Komponenten große Trainings- oder Inferenzaufgaben verlangsamen können. Minerva soll das klassische Problem isolierter Monitoring-Sichten auflösen, bei denen Netzwerk-, Compute-, Site-Reliability- und ML-Teams jeweils nur Teilaspekte sehen. Die Plattform verknüpft Signale von GPUs, SuperNICs, Switches, Kabeln, Speichern, Scheduling-Systemen und Workloads in einem dynamischen Wissensgraphen. Dadurch lässt sich ein langsamer Job im Zusammenspiel mit der Infrastruktur nachvollziehen und auf eine konkrete Komponente zurückführen, auch in Umgebungen mit Hunderttausenden GPUs. Die Auswertung erfolgt laut NVIDIA aus Milliarden Datenpunkten pro Stunde mit überwachtem und unüberwachtem maschinellem Lernen. Das System erkennt Anomalien, prognostiziert mögliche Ausfälle und gruppiert Ereignisstürme zu priorisierten Incidents mit wahrscheinlicher Ursache. Ein nativer KI-Assistent und Anbindungen an externe Agent-KI-Tools ermöglichen Untersuchungen in natürlicher Sprache und geben Empfehlungen für Gegenmaßnahmen, die manuell oder automatisiert über Schnittstellen umgesetzt werden können. Im Fokus steht die Yield-Messung von AI Factories, also der Anteil nutzbringender Arbeit über GPU-Stunden, Goodput, Cluster-Verfügbarkeit und Token-Produktion. Minerva soll Teams von reaktiver Fehlersuche auf proaktive Wartung umstellen und die GPU-Verfügbarkeit erhöhen. Unter anderem IREN nutzt die Plattform bereits. Weitere angekündigte Nutzer oder Deployments sind Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI und Tesla. Dell Technologies, Lenovo und Supermicro integrieren Minerva in ihre Portfolios für den Betrieb von AI Factories.
