HyperAIHyperAI

Command Palette

Search for a command to run...

1 天前
LLM

WorkWeave Router:开源AI模型路由代理,智能调度降本40%-70%

近日,工程智能平台Weave团队开源推出agentic系统模型路由工具workweave/router。该产品旨在通过智能路由机制,将用户请求精准分发至最优大语言模型,单请求路由延迟低于50毫秒,预计可帮助开发者降低40%至70%的AI调用成本。 该路由器采用本地嵌入式评分器(基于Avengers-Pro架构),摒弃了依赖提示词情绪分析的粗放路由方式,实现基于实际性能与成本的综合决策。在RouterArena开源评测榜单中,其Acc-Cost Arena指标已跃居榜首。系统原生支持Anthropic、OpenAI及Gemini等主流API,并可通过OpenRouter无缝接入DeepSeek、Qwen等开源模型。在安全架构上,工具默认支持BYOK模式,用户密钥本地加密存储,同时内置OTLP可观测性协议,可直连Datadog、Honeycomb等主流监控平台。 目前,workweave/router已全面适配Claude Code、Codex、Cursor及opencode等主流AI编程助手。开发者可通过npm一键部署或自建私有化实例,仅需修改基础URL与注入路由密钥即可无缝替换原有模型端点。该产品为多模型协同与降本增效提供了标准化基础设施,正逐步成为AI智能体开发链路中的关键路由组件。

相关链接