openJiuwen首发X-Router智能路由,实测省50%以上Token

作者:梦晨 发布时间:2026-10-03 04:09:41 浏览:3
关键字:
openJiuwen开源智能路由引擎X-Router,在Agent与模型间动态选模并自演进,实测成本降44.6%、Token消耗减少50%以上。

不是所有任务都需要最强模型。openJiuwen团队推出开源智能路由引擎,在Agent与模型之间加一层决策能力:根据任务复杂度动态选择最优模型,让简单问题用轻量模型、复杂问题才调用强模型,实现成本与效果的综合最优。

这套路由体系分三层:精准画像为每个模型建立动态能力档案,更新时延优于1分钟;动态决策综合请求难度、KV缓存亲和、负载与可用性做多目标权衡,选出“最优”而非“最强”的模型;自演进通过反馈闭环持续修正策略,算法与状态解耦,升级互不干扰。

实测数据亮眼:在PinchBench的147个任务中,x-router静态路由成本降25.7%,开启Bandit自演进后再降25.3%,得分反升4.4%;与全云基线相比,整体成本降低约44.6%,得分几乎持平。在Terminal-Bench/LLMRouterBench上,cost focused模式降成本51.4%,成功率达Opus的95.2%。

此外,路由框架还支持多模型协同与策略自编排,可从“选模型”升级为“编排整个执行策略”。openJiuwen智能路由已开源,x-router只是其中一条已跑通的算法通路,后续还将推出路由策略强化学习训练等能力。

阅读原文

本文由AI融业云采集并编辑,仅供学习使用!

本文来自qbitai.com,作者梦晨

关于AI融业云:一站式AI应用服务平台,了解创始人 | 联系我们

有问题,请联系客服!http://www.rongyeyun.com/kefu/