谷歌发布TPU 8tx与8i Max,拓展第八代TPU组合
谷歌云近日宣布扩展第八代张量处理器(TPU)产品线,新增面向智能体时代的两款系统TPU 8i Max与TPU 8tx。此前谷歌已推出适用于大规模训练的TPU 8t和实时推理的TPU 8i,此次系首次在同一年发布四款TPU系统。TPU历经十余年发展,已从服务谷歌内部语音识别与翻译,扩展至Gemini训练与服务、智能体负载、云服务及客户本地部署,客户数量接近100家。 TPU 8i Max主打超大上下文窗口和最高单机架算力密度,适应智能体跨长文本推理需求。TPU 8tx则面向受监管企业和政府的高机密推理与小规模训练,采用与8t相同的芯片和第5代AMD EPYC主机,将加密与隔离能力嵌入硬件层,在数据使用和模型推理中持续保护敏感数据与模型权重。其复用低延迟Boardfly网络,较TPU 8t延迟最高降低50%且性能损失接近零,支持在单一系统内完成私有数据微调、模型蒸馏和强化学习。 同时,谷歌强调“围绕芯片构建系统”的模块化策略,并加快TPU软件开放。TorchTPU使PyTorch与Hugging Face模型原生运行于TPU,vLLM、SGLang等开源推理引擎获得原生支持;TPU Sync开源后整合片上高带宽内存、主机内存、存储与网络,可显著降低键值缓存传输和首词延迟;GKE Cloud Pathways和动态切片进一步简化大规模集群调度,启动与故障恢复效率明显提升。谷歌称将继续与DeepMind及外部客户协同,以硬件和开放软件栈满足AI基础设施的快速演进需求。
此资讯由 AI 智能聚合生成,旨在高效传递行业动态,不代表任何观点或建议。
