不是所有任务都需要最强模型。openJiuwen团队推出开源智能路由引擎,在Agent与模型之间加一层决策能力:根据任务复杂度动态选择最优模型,让简单问题用轻量模型、复杂问题才调用强模型,实现成本与效果的综合最优。
这套路由体系分三层:精准画像为每个模型建立动态能力档案,更新时延优于1分钟;动态决策综合请求难度、KV缓存亲和、负载与可用性做多目标权衡,选出“最优”而非“最强”的模型;自演进通过反馈闭环持续修正策略,算法与状态解耦,升级互不干扰。
实测数据亮眼:在PinchBench的147个任务中,x-router静态路由成本降25.7%,开启Bandit自演进后再降25.3%,得分反升4.4%;与全云基线相比,整体成本降低约44.6%,得分几乎持平。在Terminal-Bench/LLMRouterBench上,cost focused模式降成本51.4%,成功率达Opus的95.2%。
此外,路由框架还支持多模型协同与策略自编排,可从“选模型”升级为“编排整个执行策略”。openJiuwen智能路由已开源,x-router只是其中一条已跑通的算法通路,后续还将推出路由策略强化学习训练等能力。
