Auf der Future of Memory and Storage-Konferenz in Santa Clara, die vom 4. bis 6. August stattfindet, hat NVIDIA zentrale Innovationen für die KI-gestützte Dateninfrastruktur präsentiert. Angesichts der exponentiell wachsenden Datenmengen und Kontextfenster moderner KI-Agenten stößt die traditionelle Speicherarchitektur an ihre Grenzen. NVIDIA zeigt auf, dass der nächste Entwicklungsschritt in der Künstlichen Intelligenz ebenso sehr von der Speicherinfrastruktur abhängt wie von der Rechenleistung der GPUs. Der Fokus liegt auf der direkten Anbindung von Grafikkarten an Speichersysteme, um Latenzen von Minuten auf Mikrosekunden zu reduzieren. Im Mittelpunkt steht dabei die Open-Sourcing der cuFile-APIs, welche GPUs ermöglichen, Daten ohne Umweg über die CPU sicher und effizient auszulesen und zu schreiben. Dieser Schritt stärkt die Interoperabilität im Ökosystem und bildet die Grundlage für ein sicherheitsorientiertes Speichernetzwerk, das zudem von Google, Intel, Meta und NVIDIA gemeinsam gewartet wird. Zur Bewältigung der steigenden Last tausender gleichzeitiger Speicheranfragen hat NVIDIA den Vera BlueField-4 STX Speicherprozessor vorgestellt. Benchmarks belegen, dass die Vera-Architektur in zweistufigen Komprimierungs- und Verschlüsselungspipelines bis zu 3,21 Mal höheren Durchsatz als herkömmliche x86-CPUs liefert. Damit können Plattformen den Datenstrom der KI-Infrastruktur effizienter absorbieren, ohne den Rechenverbrauch unverhältnismäßig zu steigern. Parallel dazu fördert NVIDIA die Initiative Storage-Next, an der sich über vierzig führende Hersteller von Speichersystemen und Flash-Speichern wie DDN, KIOXIA und Micron beteiligen. Ziel ist die Harmonisierung von GPU-gesteuerten Speicherlösungen hin zu offenen Industriestandards. Ergänzend dazu stellt NVIDIA das SCADA-Framework vor, das massiven GPUs erlaubt, nur die für die jeweilige Anwendung notwendigen Daten direkt in ihren High-Speed-Speicher zu laden. Diese skalierte, beschleunigte Datenzugriffsmethode eliminiert Engpässe, ohne die Sicherheit zu gefährden, da SCADA den Datenzugriff in zwei kontrollierte Schritte aufteilt. Die vorgestellten Technologien markieren einen Paradigmenwechsel: Speicher wird vom passiven Ablageort zum aktiven Bestandteil des Datenpfads. Durch die Integration der DOCA-Sicherheitsstacks und kontextspezifischer Speichertiering-Lösungen entsteht eine KI-native Datenplattform, die kontinuierliche Policy-Enforcement ermöglicht. Branchenexperten betonen, dass der Erfolg künftiger KI-Projekte weniger von der reinen Infrastrukturgröße als vielmehr von deren produktiver und sicherer Nutzung abhängt. Die Kombination aus offenem Code, beschleunigtem Datenzugriff und durchgängiger Verschlüsselung soll Unternehmen dabei unterstützen, KI-Investitionen schneller in konkrete Geschäftsergebnisse umzumünzen und die Grenzen zwischen Arbeitsspeicher und Massenspeicher dauerhaft zu verwischen.