智能体生产环境：工具失败后为何仍回答

随着智能体系统加速进入生产环境，一类难以察觉的静默失败正成为可靠性挑战。工程实践显示，在客服发票查询等场景中，智能体依赖内部接口完成多轮工具调用，一旦接口凭据过期，后续请求会连续返回401错误。由于大模型将错误文本也视为上下文，而非明确中断信号，智能体可能反复调整参数重试，最终绕过失败工具，生成看似完整但无数据支撑的回答，且运行状态仍显示成功，监控仪表盘保持绿色。这类问题不同于超时、限流等可恢复故障，凭据失效或权限不足等错误重试无益，却会消耗资源并造成业务风险。研究机构预测，到2027年底超过40%的智能体项目可能因成本、业务价值不清和风险控制不足被取消。针对上述问题，工程团队建议在生产系统中将工具错误分为可重试、不可重试和需人工确认三类，并在模型外部用代码设置重试上限、退避策略和认证错误快速终止。同时，在运行记录中标记成功与失败工具调用，在最终回答前检查关键工具是否返回有效结果；若依赖工具失败，应允许智能体明确告知无法完成任务，而不是强行作答。运维层面需建立针对工具成功率、失败状态码聚集和守卫拒绝次数的日志与监控，以便及时发现凭据过期等隐蔽故障。整体来看，提升智能体可靠性的关键未必是更强模型，而是围绕模型构建可执行、可观测、可止损的工程机制。