英伟达发布硬件级AI安全架构:推理性能几乎无损
英伟达近日发布基于Blackwell架构的硬件级机密计算方案,旨在破解人工智能落地中的数据隐私与主权安全瓶颈。该方案将安全防线下沉至芯片底层,依托硬件信任根、NVLink加密及远程证明服务,在模型推理全周期内对核心数据、代码与权重实施密文保护。为消除业界对安全机制拖累推理性能的担忧,英伟达在HGX B300平台上开展基准测试。结果表明,启用该功能后,大模型吞吐量与单字生成延迟的额外开销微乎其微,整体性能保留率高达百分之九十八。即便在高并发与多序列长度负载下,性能波动亦控制在百分之八以内。此举得益于引擎层对安全提交延迟与数据传输带宽的针对性优化,以及与主流推理框架的深度协同。英伟达指出,该硬件级安全架构在筑牢数据合规防线的同时,完全满足生产级AI负载的高吞吐需求。随着该技术全面融入Blackwell生态,企业级客户可在严格遵循全球数据监管标准的前提下,毫无顾虑地推进生成式AI与智能体应用的规模化商用。
