在构建生产级 Agent 时，高昂的 Token 成本是主要挑战。随着系统提示词和工具定义的膨胀，未经优化的每日百条消息可能每月产生千美元费用。为降低成本，需遵循四大设计原则。 首先是复用 Token。利用提示词缓存技术，将静态的系统指令、工具定义等作为前缀固定下来，避免每次重复计算，可节省高达 90% 的输入成本。语义缓存则通过相似度匹配，对重复提问直接返回缓存结果，适合问答类场景，但需权衡数据时效性与准确性风险。 其次是避免预加载冗余信息。当工具数量庞大时，应将工具定义与内存信息延迟加载。例如，先通过搜索工具筛选所需功能，再动态加载具体定义，既能减少初始上下文长度，又能提升模型判断效率。 第三是根据任务难度路由。对于简单任务，应路由至低成本小模型；复杂任务则升级至大模型。可采用“级联”策略，先由小模型生成，再经检查器验证，无效时再调用大模型。此外，将子任务委托给专用子模型也能在隔离上下文的同时降低平均成本。 最后是保持上下文清洁。Agent 运行中易累积大量无效日志和工具输出。建立状态压缩机制，剔除冗余信息，仅保留关键决策点，可清除 30% 至 70% 的无效 Token。这不仅能显著省钱，还能提升模型推理性能。 综上，通过缓存复用、按需加载、动态路由及上下文治理，开发者可在保障质量的前提下，大幅降低 Agent 运营成本。选择何种策略需结合具体业务场景与数据特征进行实验。