HyperAIHyperAI

Command Palette

Search for a command to run...

NVIDIA
GPU

NVIDIA erweitert KI-Speicher mit cuObject und SCADA

NVIDIA hat den allgemeinen Einsatz seiner neuen Speicherlösungen für KI-Workloads bekanntgegeben und damit die direkte, beschaccelerte Anbindung von GPUs und anderen Beschleunigern an Datei- und Objektspeicher vorangetrieben. Mit der Veröffentlichung der cuObject-Bibliotheken sowie der NVIDIA SCADA Server SDK adressiert das Unternehmen die zunehmend kritischen Anforderungen an Datentransfergeschwindigkeit und Latenz in modernen KI-Infrastrukturen. Trainings, Fine-Tuning und Echtzeit-Inferenz erzeugen einen massiven Bedarf an schnellem Zugriff auf hochkapazitive Speicherressourcen, die sich oft hybrid in lokalen Rechenzentren und Cloud-Umgebungen verteilen. Traditionelle Architekturen leiten Daten häufig über den Server-CPU-Speicher, was Engpässe verursacht. NVIDIA setzt stattdessen auf RDMA-beschleunigte, kopierfreie Datenübertragungen direkt an Netzwerk- oder DPU-Schnittstellen wie ConnectX oder BlueField. Dieses Vorgehen minimiert die CPU-Last und maximiert den Durchsatz, was besonders für neuere GPU-Generationen unverzichtbar ist. Um die bisher fragmentierten Objektspeicher-Protokolle zu vereinheitlichen, erweitert NVIDIA die xio-sig-Initiative um cuObject. Parallel zu den bereits etablierten cuFile-Bibliotheken ermöglicht cuObject Entwicklern den standardisierten, RDMA-gestützten Zugriff auf Objektspeicher, wobei die Steuerbefehle über HTTPS/TCP und die Datentransfers über RDMA laufen. Google Cloud und Microsoft unterstützen diese Weiterentwicklung aktiv; Microsoft plant zudem den Eintritt in den xio-sig-Beirat, um die Interoperabilität der Speicher-I/O-Ökosysteme zu stärken. Ergänzend dazu stellt NVIDIA die SCADA Server SDK zur Verfügung, die es Speicheranbietern erlaubt, Server zu implementieren, die GPU-initiierte Anfragen über ein gemeinsames Protokoll empfangen und bearbeiten. Erste Interoperabilitätsnachweise liegen bereits vor: IBM demonstrierte erfolgreich einen Prototypen, der SCADA-Clients mit IBM Storage Scale verbindet. Gemeinsam mit der Storage Lender Service und der zugehörigen Kommandozeilenutility bildet die SDK die Grundlage für eine skalierbare Softwareinfrastruktur, die feinkörnige I/O-Anforderungen moderner KI-Modelle wie semantische Suche oder Empfehlungssysteme effizient bedient. Innerhalb der übergeordneten NVIDIA Storage-Next-Initiative arbeiten mehr als vierzig Hersteller, Hyperscaler und Anwendungsentwickler daran, GPU-gesteuertes Speichermanagement in offene Industrie-Standards zu überführen. Die technischen Spezifikationen, Header-Dateien und Protokolldefinitionen werden nach erfolgreichem Konformitätstest öffentlich freigegeben. Derzeit laufen die Governance-Verhandlungen für das neue Repository-Strukturmodell. Die Verfügbarkeit von cuObject und SCADA Server SDK signalisiert einen deutlichen Meilenstein hin zu interoperablen KI-Speicherschichten. Anbieter von Cloud- und On-Premises-Speicher sowie KI-Entwickler können die neuen APIs nun produktiv einsetzen und sich an der Weiterentwicklung offener Datenzugriffsstandards beteiligen. Die Maßnahmen zielen darauf ab, die Performance-Lücke zwischen beschleunigter Rechenleistung und traditioneller Speichertechnik zu schließen und die Grundlage für datenintensive KI-Anwendungen der nächsten Generation zu legen.

Verwandte Links