HyperAIHyperAI

Command Palette

Search for a command to run...

探秘亚马逊 Trainium 芯片:赢得 Anthropic、OpenAI 和苹果青睐

在亚马逊与OpenAI达成五十亿美元投资协议的背景下,TechCrunch记者受邀参观了亚马逊位于奥斯汀的Trainium芯片研发实验室。该实验室是AWS应对英伟达垄断、降低人工智能训练与推理成本的关键基地。目前,Trainium芯片已获得Anthropic、OpenAI甚至苹果的高度认可,其中Anthropic的Claude模型已运行在超过一百万块Trainium2芯片上。 此次合作的核心在于亚马逊将向OpenAI提供高达2吉瓦的Trainium计算能力。尽管产能紧张,但Trainium凭借性能与成本的显著优势正快速占领市场。最新的Trainium3芯片配合新型Neuron交换机,实现了芯片间的高效互联,相比传统云服务,在同等性能下运行成本可降低约50%。更关键的是,Trainium现已支持PyTorch等主流开源框架,开发者仅需极少量代码调整即可迁移,大幅降低了切换壁垒。 除了芯片本身,亚马逊还设计了配套的服务器组件,包括液冷技术和虚拟化管理平台Nitro,以进一步优化能效与性能。团队在芯片“启动”阶段需进行高强度的工程验证,通过现场焊接、测试等手段解决散热和连接等棘手问题。目前,全球最大的AI计算集群之一“Project Rainier”已部署五十万块Trainium2芯片,专门服务于Anthropic。 尽管OpenAI的加入备受关注,但工程师团队目前的重心仍放在Anthropic和亚马逊内部服务上,并已开始研发Trainium4。亚马逊CEO安迪·贾西对这一自研芯片业务寄予厚望,视其为AWS未来的核心增长点。随着Trainium在训练和推理领域的全面铺开,亚马逊正试图通过垂直整合的硬件解决方案,重塑人工智能基础设施的格局。

相关链接

探秘亚马逊 Trainium 芯片:赢得 Anthropic、OpenAI 和苹果青睐 | 热门资讯 | HyperAI超神经