亚马逊优化AI架构压降Alexa运营成本
2025年初,亚马逊在纽约发布Alexa+后,内部文件显示公司正全面推行架构重组与算力优化以应对激增的云端成本。随着用户规模扩大,其2026年云端支出预计高达17亿美元,远超财务预期。为此,亚马逊大幅削减对Anthropic旗下Claude模型的调用频率,将专属功能及高频请求迁移至自研模型,并引入缓存机制与确定性逻辑,有效规避无效推理。 在硬件与软件协同方面,亚马逊计划通过系统升级使单卡计算吞吐量提升约50%,响应延迟降低40%,预计令每单位算力承载的客户交易次数翻四倍。同时,公司正灵活配置英伟达GPU与自研Trainium芯片以压降硬件开支。此举标志着AI行业竞争焦点已从模型竞赛转向推理降本。首席执行官安迪·贾西指出,降低单次推理成本是释放AI规模化应用的前提。亚马逊的降本战略不仅化解了Alexa+初期的财务压力,更为科技巨头在AI性能与商业可持续性之间寻找平衡提供了实践范本。
