NVIDIA驱动下的AI革命：从推理到网络技术的全层级创新热点

在即将于8月24日至26日在斯坦福大学举行的Hot Chips大会上，AI推理、网络架构与全尺度AI创新成为核心议题，而这一切均以NVIDIA技术为基础。作为全球处理器与系统架构领域的重要盛会，Hot Chips汇聚了来自产业界与学术界的顶尖专家，聚焦推动AI数据中心发展与万亿级计算市场增长的关键技术。 NVIDIA将在大会期间参与一场主题为“数据中心机架级架构设计”的专题研讨，并在四个技术演讲与一个教程中展示其最新成果。这些内容涵盖从底层网络基础设施到高端AI超级计算系统的全栈创新。 在推理性能方面，NVIDIA ConnectX-8 SuperNIC凭借超低延迟与高带宽的多GPU互联能力，支撑起机架级乃至数据中心级的AI推理需求。通过NVLink、NVLink Switch与NVLink Fusion技术，NVIDIA实现了GPU与计算单元间极低延迟、高吞吐的数据交换。而NVIDIA Spectrum-X Ethernet及其升级版Spectrum-XGS，进一步构建了跨多个分布式数据中心的统一AI超级工厂，实现海量数据的高效传输与GPU间协同。 在硬件层面，NVIDIA GB200 NVL72系统作为单机架级的百亿亿次（exascale）超级计算机，集成36颗GB200 Superchip，每颗含双GPU与Grace CPU，通过全球最大的NVLink域，实现每秒130TB的GPU通信带宽，为AI与高性能计算提供强大引擎。 基于NVIDIA Blackwell架构的GeForce RTX 5090 GPU，不仅将游戏性能提升一倍，还通过DLSS 4与神经渲染技术，实现10倍性能飞跃、10倍设计效率提升，显著增强图形真实感与模拟精度，同时保持低功耗。 NVIDIA CUDA平台持续赋能全球数亿开发者，支持从GB200超算到桌面级DGX Spark系统的AI部署。DGX Spark作为首款基于GB10 Superchip的桌面级超级计算机，专为大语言模型（LLM）推理优化，支持NVFP4低精度格式，大幅提升推理效率。 在开源生态方面，NVIDIA通过TensorRT-LLM、Dynamo、Cutlass、NIX等工具链，深度优化LLM与分布式推理，并与PyTorch、vLLM、Llama 4、OpenAI gpt-oss等主流框架和模型实现无缝集成。NVIDIA NIM微服务更让开发者能灵活、安全地自托管主流开源模型。 此次Hot Chips大会全面展现了NVIDIA如何通过全栈技术，从算法到系统，推动AI推理在每一个尺度上实现突破，加速全球AI创新进程。