路由器不是买来的省钱：ACL’26 统一评测拆穿路由神话

商业路由器承诺省 40% 到 80% 的推理成本，但直到今年，路由器之间的比较都没有一块公平的统一场地。ACL’26 的 LLMRouterBench 用 40 万+ 实例补上了这块场地——结论与厂商叙事相反：多数路由方法在统一评测下表现相近，若干新方法（包括商业路由器）无法稳定击败一条简单基线。省钱是真的，但钱不在路由器里。

证据：第一次大规模统一评测路由

LLMRouterBench（arXiv 2601.07206，Findings@ACL’26，代码与数据开源）构建了迄今最大的路由评测：40 万+ 实例、21 个数据集、33 个模型（旗舰到 7B 级轻量模型）、10 种代表性路由基线，同时给出面向性能与面向性能-成本权衡的两套指标，并支持延迟感知分析。论文的核心发现：①统一评测下多数路由方法表现相近——此前各家论文里的领先幅度，很大一部分来自评测场地的差异；②若干新方法——包括商业路由器——无法稳定击败简单基线（例如按任务类型固定选模型的确定性策略）；③与 Oracle（每次都选中最优模型的理论上界）的差距，主要来自模型召回失败——不是选错了模型，而是候选池里根本没有能答对这道题的模型；④骨干 embedding 模型的影响有限；⑤更大模型集成的回报递减，精心挑选的小集合更优。

我们的判断（一）：路由的真实杠杆是任务分级，不是选择魔法

路由省钱的机制很简单：把低难度请求路由到便宜模型。这需要的是任务画像与确定性规则，不是黑盒评分器。企业大多数生产负载——客服摘要、文档抽取、RAG 回答、代码补全——难度分布高度集中：大部分请求落在「小模型足够」的区间。对这些负载，按任务类型加难度阈值做固定映射，就能捕获路由收益的大部分；这也是为什么论文里简单基线那么难被击败。

我们的判断：先做任务分级，再谈路由器。路由器（尤其是学习式路由器）的价值只在请求难度分布高度分散、且选择错误的代价可被量化时成立——多数企业到不了这个条件。

我们的判断（二）：OOMeta 自家栈的实证——确定性策略路由

这不是纸上谈兵。OOMeta 自己的多模型栈就是确定性策略路由：主力 agent 单元固定使用 deepseek-v4-flash，特定分析子单元固定使用 gemini-3.5-flash——按单元与任务类型做固定映射，不跑学习式路由器。这与 LLMRouterBench 的结论一致：对固定的任务画像，确定性映射加私有域评估优于通用黑盒路由器，且可解释、可审计、零推理开销。

我们的判断：对大多数企业，路由策略应该是工程配置（谁、什么任务、走哪个模型、失败升级到谁），而不是一个需要持续训练与信任的封闭组件。

买方清单：买路由器还是自己定策略——四个检验

行动建议与留给买家的决策问题

三十天动作：先别买路由器。花两周做任务画像——把生产请求按任务类型×难度分层，逐层测小模型基线（准确率加每完成任务的成本）；如果规则策略已经覆盖大部分收益，路由器就不值得买。需要买时，要求供应商给出统一评测加你的私有域 eval 两组数字。

留给买家的决策问题：当商业路由器在 40 万实例的统一评测下打不过简单基线，你凭什么相信它在你的负载上省 40%？如果你的答案需要依赖对方提供的评测，那省下的钱还没到手，信任的账已经先欠下了。

参考来源：LLMRouterBench（arXiv 2601.07206，Findings@ACL’26，2026-01-12 提交）arxiv.org/abs/2601.07206 · 论文全文与数据 arxiv.org/html/2601.07206v1 · 开源代码与评测数据 github.com/ynulihao/LLMRouterBench · 路由系统 2026 综述（交叉参考）www.digitalapplied.com/blog/llm-model-routing-2026-cost-quality-optimization-engineering-guide