HyperAIHyperAI

Command Palette

Search for a command to run...

甲骨文部署数千NVIDIA Blackwell GPU,加速AI代理和推理模型开发

Oracle已经在其数据中心部署并优化了首批液冷NVIDIA GB200 NVL72机架系统。该公司正在向NVIDIA DGX Cloud和Oracle Cloud Infrastructure (OCI)上部署数千块NVIDIA Blackwell GPU,这些GPU将用于开发和运行下一代推理模型和AI代理。 本次部署采用了高速NVIDIA Quantum-2 InfiniBand和NVIDIA Spectrum-X以太网网络技术,能够支持高扩展性和低延迟性能,同时搭配来自NVIDIA和OCI的全套软件和数据库集成。作为全球最大的云服务提供商之一,Oracle是最早部署NVIDIA GB200 NVL72系统的公司之一,计划建设世界上最大的Blackwell集群之一。该集群将超过100,000块NVIDIA Blackwell GPU,以应对全球日益增长的推理代币和加速计算需求。 这些先进的系统正将云计算中心转变为大规模的“AI工厂”,具备制造高级智能的能力。NVIDIA GB200 NVL72平台是一种机架级系统,集成了36个NVIDIA Grace CPU和72个NVIDIA Blackwell GPU,为基于先进推理模型的代理AI提供卓越的性能和能效。 OCI提供了灵活的部署选项,可以将Blackwell GPU带入公共云、政府云和主权云,以及客户自有的数据中心中,通过OCI专用区域和OCI Alloy在任何规模下实现这一点。目前,已经有多个客户计划立即将工作负载部署到这些新系统上,包括大型科技公司、企业客户、政府机构和承包商,以及区域云服务商。 这批新的机架系统是NVIDIA DGX Cloud平台提供的首批系统,该平台经过优化,提供软件、服务和技术支持,助力在领先的云平台上(如OCI)开发和部署AI工作负载。NVIDIA将使用这些系统进行各种项目,包括训练推理模型、自动驾驶车辆开发、加速芯片设计与制造,以及开发AI工具。 GB200 NVL72机架系统现在可以通过DGX Cloud和OCI获取。这些系统的上线标志着AI领域的一次重大进步,不仅提高了处理能力,还能显著降低能源消耗,使得更广泛的客户能够受益于先进的AI技术和应用。 业内人士对这次部署给予了高度评价,认为这是Oracle和NVIDIA战略合作的一大突破,将进一步巩固两者在AI领域的领先地位。通过提供高性能、低能耗的AI基础设施,Oracle Cloud Infrastructure有望成为未来AI创新的核心平台之一。Oracle作为全球领先的云服务提供商,一直致力于推动技术创新和行业标准的发展,此次的Blackwell GPU部署再次展示了其前沿的技术实力和市场敏感度。

相关链接

甲骨文部署数千NVIDIA Blackwell GPU,加速AI代理和推理模型开发 | 热门资讯 | HyperAI超神经