AMD收购Taalas:将模型刻入硅片提升推理性能
北京时间周四收盘后,AMD正式宣布收购多伦多AI芯片初创公司Taalas,以加速其在高端AI推理市场的布局并挑战英伟达的垄断地位。该交易旨在将模型权重直接蚀刻至硅片中,打造高能效的定制集成电路。Taalas的芯片摒弃传统HBM显存,采用掩模只读存储器与静态随机存取存储器双区架构。其初代HC1测试芯片已证明在Llama 3.1 8B模型上可实现每秒近一万七千个Token的惊人吞吐,性能较主流GPU提升数十倍。 根据规划,AMD将把Taalas的硬件技术与自研Instinct计算平台及Helios机柜深度整合,采用计算与推理分离的异构架构。GPU负责提示词处理,Taalas芯片专攻Token生成。这种设计不仅大幅压缩空间与功耗需求,还能通过仅变更两层金属层的方式快速适配新模型,有效平衡性能与迭代成本。AMD负责AI的SVP Vamsi Boppana表示,此举将赋予客户针对各类AI工作流灵活选配算力的能力。 鉴于Taalas在降低推理成本与提升响应速度方面的潜力,该芯片有望被OpenAI、Anthropic及Meta等主要Instinct客户采纳。若推理成本显著下降,开发者将更有动力采用测试时间扩展技术以提升模型准确性。目前交易尚在监管审批中,预计将于第四季度完成交割,其技术路线将深刻影响未来AI算力市场的格局。
