a16z访谈：AI安全非限速，厘清智能体权限边界

9月下旬，围绕是否应放缓前沿人工智能研发的行业争论持续升温。在a16z于9月26日举办的播客对谈中，Box首席执行官Aaron Levie与多位科技业界领袖深入探讨了AI安全边界、企业智能体权限管理及监管路径。此前，Anthropic首席执行官Dario Amodei公开呼吁延缓前沿模型迭代，成为讨论焦点。 Levie明确支持加强实验室测试、沙盒隔离与安全治理，认为可靠运行与数据保护是AI获企业采用的前提。但他警告，笼统的限速主张可能加剧市场垄断，且放缓缺乏明确衡量标准，研发进度的不透明性反而不利于风险管控。他建议实验室应清晰公开风险评估逻辑，而非简单以时间换安全。 随着AI智能体从被动问答转向自主执行任务，企业系统面临全新的安全挑战。Levie将智能体比作可瞬间扩增万倍的数字员工，指出其持续读取文件、调用内部服务及处理支付的行为，极易突破传统基于人类使用习惯的安全架构。大量并发调用不仅可能引发系统过载，更暴露出粗放授权模式的风险。他呼吁建立细粒度访问控制机制，使权限与具体任务精准匹配，并确保操作全程可追踪。 对此，与会专家强调需借鉴早期互联网安全演进经验，将监管焦点从宏观限速转向可辨识的具体网络安全风险。Levie同时预测，技术利弊平衡与责任界定问题或将成为美国2028年大选的重要议题。业界普遍认为，能否在工程层面妥善解决智能体权限与信任问题，将直接决定AI能否真正深度融入企业核心业务。