NVIDIA hat sein Nemotron-3-Modellportfolio um Nemotron 3.5 Lightning sowie NeMo Switchyard erweitert. Beide Veröffentlichungen zielen darauf ab, die Entwicklung und Effizienz von Always-on-Agents im Open-Source-Bereich signifikant voranzutreiben. Nemotron 3.5 Lightning ist ein offenes Mixture-of-Experts-Modell mit 30 Milliarden Parametern, das speziell für hochfrequente Aufträge in mehrschichtigen Agentensystemen konzipiert wurde. In Zusammenarbeit mit der Nemotron Coalition entwickelt, erzielt die Lösung laut PinchBench-Benchmarks bis zu vierfach schnellere Token-Generierung und eine um 30 Prozent reduzierte Aufgabenbearbeitungszeit im Vergleich zu konkurrierenden Modellen seiner Kategorie. Durch den offenen Zugang zu den Gewichten können Unternehmen das Modell mit domänenspezifischen Daten nachtrainieren, um die Genauigkeit in spezialisierten Workflows wie Cybersicherheit, Rechtsdienstleistungen, Code-Review oder dem Finanz- und Gesundheitswesen zu maximieren. Parallel wird der RL-Agentic-Terminal-Pivot-Datensatz veröffentlicht, der das Post-Training für Code-Agent-Fähigkeiten optimiert. Für die Steuerung dieser Modell-Ensembles eingeführt wurde NeMo Switchyard. Die Open-Source-Routing-Bibliothek leitet Anfragepunkte automatisch an das jeweils passendste Modell weiter, basierend auf vordefinierten Prioritäten für Genauigkeit, Latenz und Kosten. Dadurch entfällt der manuelle Integrationsaufwand für Entwickler. Interne Benchmarks belegen, dass NeMo Switchyard trotz einer Kostensenkung auf etwa ein Drittel der reinen Nutzung von Opus 4.8 die Genauigkeit auf Frontierniveau beibehält. Die Verfügbarkeit ist über Hugging Face, ModelScope, OpenRouter sowie build.nvidia.com als NIM-Mikrodienst geregelt. Für lokale und Edge-Deployments wurde die Kompatibilität mit vLLM, Ollama, llama.cpp, LM Studio und Unsloth sichergestellt. Die Infrastruktur deckt dabei ein breites Spektrum ab, das von RTX-PCs und Jetson-Geräten über DGX-Spark-Systeme bis hin zu Blackwell-basierten Workstations und Rechenzentren reicht, die von etablierten OEM-Partnern bereitgestellt werden. Mit diesen Veröffentlichungen positioniert NVIDIA sich strategisch als Enabler für dezentrale, datenschutzkonforme und kosteneffiziente KI-Infrastrukturen, die sowohl den lokalen Entwicklermarkt als auch enterprise-Anforderungen bedienen.