NVIDIA 推出经认证的智能体技能,强化 AI 智能体能力治理
随着自主 AI 代理能力日益增强,如何确保其使用的技能既安全又可信成为关键挑战。英伟达推出“英伟达认证代理技能”以解决这一难题。认证技能通过记录来源、扫描风险及验证完整性,帮助开发者理解并信任代理所调用的指令,而非仅仅依赖运行时的安全护栏。 英伟达认证技能是一套便携式指令集,教导代理正确使用 CUDA-X 库及 AI 蓝图。其核心在于“认证流程”:技能从产品团队仓库发起,经过人工审查、自动化策略检查、安全扫描、评估及生成技能卡后,最终被签名并发布至公共目录。这一过程确保了技能的可追溯性和真实性。 在安全方面,英伟达利用 SkillSpector 工具在发布前对技能进行深度扫描。不仅检查传统软件漏洞,还针对 AI 代理特有的风险进行排查,如隐藏指令、提示词注入及工具污染等。同时,通过加密签名技术,确保技能文件在分发和下载过程中未被篡改,开发者可独立验证其完整性。 每个认证技能均附带“技能卡”,这是一个机器可读的元数据文件,集中展示了作者信息、依赖项、许可协议、风险状态及验证记录。技能卡让开发者无需手动审计即可快速判断技能兼容性与安全性,使信任机制可嵌入各类编码工具和企业管理平台。 英伟达此举旨在将治理从执行阶段前移至能力层,结合现有的 NeMo Guardrails 等运行时控制,构建更完整的 AI 治理体系。通过开源技能卡模板和生成工具,英伟达邀请社区共同参与透明化建设,推动自主代理在真实工作流中的安全、高效扩展。
