Weave präsentiert dynamisches Modell-Routing für Agentic Systems Das Entwicklerteam von Weave hat mit der Open-Source-Lösung workweave/router eine neue Routing-Plattform für KI-Agents vorgestellt. Der Router fungiert als nahtlose Proxy-Schicht und leitet jede Nutzeranfrage gezielt an das technisch und wirtschaftlich optimal passende Modell weiter. Der Systementwurf konzentriert sich dabei auf extreme Performance und Effizienz: Routing-Entscheidungen werden in weniger als 50 Millisekunden getroffen, was zu Kosteneinsparungen von 40 bis 70 Prozent bei der Modellinferenz führt. Anders als herkömmliche, auf Prompt-Intuition basierende Ansätze setzt die Architektur auf einen lokalen Embedding-Cluster. Die Entscheidungslogik basiert auf einem speziell entwickelten Scorer, der auf der Forschungsarbeit Avengers-Pro beruht. Dies ermöglicht eine präzise, datengetriebene Auswahl aus einer breiten Palette von Modellanbietern. Native Unterstützung erhalten Anthropic, OpenAI und Google Gemini, während Open-Source-Modelle wie Llama, Mistral oder Qwen über OpenRouter oder beliebige OpenAI-kompatible Endpunkte angebunden werden können. Alle modernen Interaktionsfeatures einschließlich Streaming, Tool-Use und Vision-Modi werden durchgängig unterstützt. Die Implementierung ist als Drop-in-Lösung konzipiert und erfordert keine tiefgreifenden Code-Anpassungen. Entwickler können etablierte Tools wie Claude Code, Codex, opencode oder Cursor über einfache Konfigurationsdateien oder CLI-Befehle auf den Router umleiten. Das integrierte BYOK-Modell (Bring Your Own Key) stellt sicher, dass sämtliche Anbieter-Schlüssel lokal auf dem Hostrechner verbleiben und at-rest-verschlüsselt werden. Für die Betriebstransparenz sorgt eine native OTLP-Trace-Sammlung, die eine direkte Anbindung an Observability-Stacks wie Datadog, Grafana oder das native Weave-Dashboard ermöglicht. Anfragen lassen sich zudem granular ein- und ausschalten, ohne die Basisinfrastruktur zu stören. Mit einem Score von 76,09 Punkten positioniert sich das System an der Spitze des RouterArena-Leaderboards im Segment Acc-Cost Arena. Die Veröffentlichung reagiert auf den steigenden Bedarf an intelligentem Modellmanagement in der KI-Entwicklung, da Industrie und Forschung zunehmend auf multi-modale, kosteneffiziente Inferenz-Pipelines setzen. Weave etabliert den Router als zentrale Orchestrierungskomponente, die Entwicklern erlaubt, die spezifischen Stärken heterogener KI-Modelle dynamisch zu nutzen und dabei Latenz sowie Betriebskosten signifikant zu senken.