NVIDIA veröffentlicht Nemotron 3.5 Super VL und Bolt
NVIDIA hat am 15. Oktober das Open-Weight-Modell Nemotron 3.5 Super VL veröffentlicht und zwei Bolt-Modelle für lokale Geräte vorgestellt. Super VL verfügt über insgesamt 120 Milliarden Parameter, kombiniert Text- und Visual-Verständnis und kann Dokumente, Diagramme, Tool-Aufrufe sowie mehrstufige Geschäftsprozesse verarbeiten. Laut NVIDIA bietet es bei Agentenaufgaben unter vergleichbaren Open-Source-Modellen einen Geschwindigkeitsvorteil; diese Leistungsaussage sollte jedoch stets im Kontext spezifischer Testbedingungen betrachtet werden. Das Nemotron 3.5 Bolt 74B-A9B 24GB nutzt Quantisierungstechnik und kann auf Geräten mit entsprechender Hardware mit etwa 24 GB Arbeitsspeicher laufen. Es richtet sich an lokale Agentenaufgaben wie Web-Recherche, Programmierung und Debugging. Das kleinere Modell Bolt E4B 4GB zielt auf Sprachassistenten, interaktive Charaktere und eingebettete Anwendungen ab. Super VL und Bolt 74B-A9B sind bereits verfügbar, während das Bolt E4B für den 23. Oktober geplant ist. NVIDIA gibt an, dass Super VL Modellgewichte, Datensätze und Trainingsverfahren bereitstellt. Unternehmen können das Modell mit ihren eigenen Daten nachtrainieren und die Bereitstellungsumgebung gemäß ihren Sicherheits- und Datenlokalisierungsanforderungen auswählen. Organisationen wie Scale AI und Ramp nutzen das Modell bereits für spezifische Geschäftsszenarien. Die Kombination der drei Modelle zeigt, dass NVIDIA mit derselben Modellfamilie die Bereitstellungsanforderungen für Rechenzentren, Desktop-Geräte und Edge-Hardware abdecken möchte.