企业正面临一个价值数千亿美元的AI安全难题，而这一问题正日益严峻。尽管AI代理、聊天机器人和智能助手本应简化工作流程，但它们也带来了前所未有的安全风险。随着企业将AI工具广泛应用于各个业务环节，如何在赋予员工和AI代理使用强大AI能力的同时，防止敏感数据泄露、规避合规风险、抵御提示注入攻击，已成为亟待解决的难题。 更令人担忧的是，当AI代理开始在无人监督的情况下相互对话和协作时，潜在的失控风险急剧上升。例如，一个AI代理可能在不知情的情况下将机密信息传递给另一个AI，或被恶意提示诱导执行非授权操作，从而引发数据外泄或系统被攻破。 为应对这一挑战，初创公司WitnessAI近期完成了5800万美元融资，旨在构建“企业AI的可信层”，即一套保障AI安全运行的基础设施。该公司致力于通过技术手段实现对AI行为的监控、审计与控制，确保其在合规框架内运行。 在TechCrunch的《Equity》播客中，主持人Rebecca Bellan与Ballistic Ventures联合创始人Barmak Meftah及WitnessAI首席执行官Rick Caccia深入探讨了企业的真实担忧。他们指出，AI安全正从边缘议题演变为关键战略问题。据预测，到2031年，全球AI安全市场规模将达8000亿至1.2万亿美元。 随着AI代理间自主交互的增加，企业不仅需要防范外部攻击，更需建立内部信任机制。未来，AI安全将不再只是技术问题，而是关乎企业生存与合规的核心命题。