单价跌到两百八十分之一，AI 账单为什么还在涨

一个负责 AI 应用的技术负责人，在预算会上翻出两份账单。左边是 2024 年的模型调用记录，右边是上个月的。同样的问答，单价已经跌到原来的两百八十分之一。他要解释的却是右边那笔总额：它比两年前更高。

单价跌了两百八十倍，账单没有跟着跌

单价的下跌有据可查。据 Mirantis 转述 Deloitte 2026 年的一份 AI 基础设施分析，两年时间里推理成本跌了 280 倍。与此同时，整体 AI 账单仍在上涨。原因不复杂：智能体系统在持续产生推理需求，而需求的增长快过单价的下降。

Zylos 在 2026 年 4 月的行业综述里给出同一方向的数字。GPT-4 级别能力，2023 年 3 月的价格是每百万 token 30 美元，现在大约是 0.40 美元。看单价，账应该更便宜。

看总额，它没有。这意味着过去两年我们习惯的那个判断，也就是模型越来越便宜、所以 AI 会越来越便宜，只在单价这一层成立。到了账单这一层，它已经失效。

那位负责人在预算会上盯着这两个数字看了很久。单价的曲线一路向下，总额的曲线一路向上。他发现两份账单的计量单位其实不一样。左边数的是问答，右边数的是任务。

计费单位从一个问答，变成一个跑完的任务

变化发生在计费单位上。据 Zylos 的综述，一次普通的聊天调用大约 0.001 美元。一个要规划、检索上下文、调用工具、反思结果、再纠正自己的智能体任务，一次完成要花 0.10 到 1.00 美元。同一个模型家族，从问答换到任务，量级放大了 100 到 1000 倍。

Gartner 在 2026 年 3 月给出一条补充口径。智能体任务每个消耗的 token，比普通聊天多 5 到 30 倍。到了 8 月 17 日，Gartner 把这条趋势推到财务日历上：到 2028 年，单个智能体工作流的推理成本会上涨 5 倍以上。

两句话放在一起，就能解释开头那份账单。单价下跌发生在 token 这一层，账单上涨发生在任务这一层。你采购的是 token，你实际消费的是一个跑完的任务。这两者之间的换算比例，正在逐年变大。

所以我们看到的是一个奇怪的局面。单价一路向下，账单一路向上，两个数字都对，方向却相反。问题出在计费单位上，它换过一次，而多数预算表还没有跟着换。

一个问答跑一次就结束了。一个任务要跑十几轮工具调用，中间可能重试，可能等待外部接口，可能因为一次判断失误把前面的步骤重跑一遍。我们把这些都算进去，才会看到一个任务真实的花费。

一个跑完的任务，钱花在四个地方

如果我们想把任务成本降下来，先要知道钱花在哪。一个跑完的任务，花费大致由四件事决定。它们是步骤数、每一步的模型层级、重试率，以及每一轮带上的上下文长度。

这四个变量里，只有一个是采购能谈的，就是单价。其余三个都在我们自己的架构里。所以我们会发现，压账单的主战场不在谈判桌上，而在运行层里。

一张具体的账单长什么样

我们可以把开头那张账单拆开看。假设一个任务要跑十二轮工具调用，每一轮平均送进去两万 token 的上下文，其中大部分在轮次之间重复。单价按今天大约每百万 token 0.40 美元算。

那么一个任务跑一次，光输入侧就要花掉接近一毛钱。如果中间失败一两次重跑，这一毛钱要再加一遍。单看每一次调用，它便宜得可以忽略；单看一个跑完的任务，它已经是一笔要计入的项目。

再乘上任务数。一个部门一天跑两千个任务，一个月就是六万个任务。单价的曲线怎么往下走，都追不上任务数往上走的速度。这说明真正的控制点有两个，一个是每个任务的轮次，一个是每一轮带上的上下文。

所以降本的第一刀应该落在上下文和轮次上。砍单价是我们最容易做的事，也往往是最不管用的一刀。

再往下拆一层。十二轮里，假设有 10 轮重复了八成的历史，那么真正的新信息可能只占两成，其余八成都是重复付费。我们把这部分压下来，效果比在谈判桌上磨单价直接得多。这也是为什么同一份账单，工程侧动一动，往往比采购侧谈十轮更有效。

换一个口径，先算三个数

如果你只有一个下午，先算出三个数。第一个是每个任务的平均轮次，第二个是每一轮里强模型占的比例，第三个是重试率。我们不需要精确到小数，数量级对就够了。

拿一个客服工单任务举例。它平均跑 8 轮，其中 1 轮需要强模型判断，另外 7 轮只是抽取和格式化。重试率大约百分之五，也就是二十个任务里有一个要多跑一遍。这组数字决定了任务成本的样子，也决定了路由能在哪里省。

如果你把那 7 轮从强模型换到廉价层，账单会明显下降。如果你只跟供应商谈 10% 的单价折扣，账单几乎不会动。同样一个下午的工程时间，前者的回报是后者的几十倍。

我们再看一下 2026 年的价格带宽。据 Digital Applied 的综述，最便宜的可选模型大约每百万 token 0.44 美元，最强的一档要 30 美元输入。同一段提示词落在不同层级上，成本可以差出两个数量级。这就是路由层存在的理由，也是我们把口径从单价换成任务的原因。

同样的降幅，为什么这次没有兑现

过去十年，企业经历过好几次单位成本暴跌。云端算力变便宜，存储变便宜，带宽变便宜，这些降幅最后都变成了更低的账单。所以我们会本能地相信，AI 也会走同一条路。

这次不一样的地方在于用量的形状。云计算的用量随业务线性增长，一个用户对应相对固定的存储和带宽。智能体的用量按任务和轮次增长。一个流程从三步变成十步，token 的消耗不是一个量级的增加。

换句话说，单价的下降被任务数的增长吃掉了，而且还没有吃完。这就是我们开头那份账单的算术。你要是只盯着单价看，就会一直在算对一道错题。

还有一个我们容易忽略的差别。云的成本曲线是平滑的，需求涨，账单跟着涨。智能体的成本曲线是阶梯式的，一个流程多加两步，账单可能翻倍。所以我们会看到，同一个任务，改造前后能差出好几倍。

试点账本和上量账本，是两套数学

试点阶段的账本很容易做平。一个演示跑一个任务，重复五十次，token 单价又跌了两百八十倍，怎么算都便宜。上量之后，账本换成另一套算法。五十个任务各跑一千次，中间还有重试、工具调用和额外的判断轮次。

据 Zylos 转述 IDC 的 FutureScape 2026 报告，即便是有千人以上规模、并且配有专职 FinOps 团队的企业，仍然会低估 AI 基础设施成本，幅度最高到 30%。同期，企业平均 AI 预算从 2024 年的每年 120 万美元涨到 2026 年的 700 万美元。

这两组数字放在一起，结论很清楚。单价的下降没有把总成本拉下来，预算的涨幅本身就在说明这件事。我们省下的是每一个 token 的钱，多花的是每一个任务的钱，而任务数涨得更快。

收益也是真的，只是它不在演示里。据 Mirantis 转述 McKinsey 2026 年 4 月的分析，智能体可以自动化 60% 到 80% 的常规基础设施工作，并把跑批成本降低 20% 到 40%。这笔账落在生产环境，落在每个月的跑批账单上，不落在演示当天。

所以演示便宜不等于上量便宜。这两者之间隔着任务量、重试率和工具调用次数。我们把它们乘进去，试点的回报率往往会掉一大截；把它们优化掉，回报率才会回来。

我们的判断：单价是采购指标，任务完成成本才是经营指标

我们的判断是：token 单价属于采购指标，一个跑完的任务花了多少钱，才是经营指标。两者的差别在于谁对结果负责。采购指标可以在谈判桌上压下来，经营指标只能从自己的架构里长出来。

只压单价的团队，会随用量上量被账单反噬。单价降了，任务数涨得更快，两者相乘的结果还是涨。问题出在口径上，不在模型报价上。

正确的做法是按任务层级路由。把大多数步骤交给廉价层，只在需要判断的节点升级到强模型。据 Digital Applied 2026 年 6 月的工程综述，部署了路由层的团队报告账单下降 40% 到 85%；RouteLLM 的对照实验里，85% 的成本降幅保住了 95% 的 GPT-4 质量。这些是报告值与基准值，不是保证值，但方向足够明确。

这个判断也被我们自己的运行方式验证过。OOMeta 自建的 agent 运行层是分层的。大多数步骤由廉价层承担，只有在需要判断的节点才升级到强模型。分层不改变任务数，它改变的是每个任务的平均单价，以及账单随用量增长的斜率。

这条判断的边界

我们的判断有边界。任务层级路由适用于步骤多、判断点少的工作流，比如数据整理、文档处理和常规运维。对于每一步都需要强推理的任务，比如复杂的代码重构或者高风险的决策，分层的空间很小，账单会实打实地随用量上涨。

所以先判断你的工作流属于哪一种。如果大多数步骤是确定性的，路由能省下一大截；如果每一步都在做判断，那你要谈的是这个任务该不该交给智能体，而不是模型用哪一档。

把预算口径换成一个跑完的任务

要换的是一套口径。可以按四步走，顺序不要打乱。

迁移顺序也重要。我们先建立按任务的计量，再让路由层去执行分层，最后才回到单价谈判桌上。顺序反了，你会在没有数据的情况下压单价，然后在上量的第一个季度重新面对同一笔账单。

谁来对每个任务的成本负责

口径换了，还要有人认领。我们建议给每一类任务指定一个负责人，就像给云上的每一项开支指定负责人一样。没有负责人的任务，成本会一直漂，漂到没人敢认。

这件事不复杂。先列出你现在的任务清单，按调用量从大到小排。前百分之二十的任务，通常吃掉百分之八十的花费。把负责人、平均轮次、重试率和每任务成本写在同一张表上，一个月看一次。我们不需要一开始就精确，只要能看到趋势。

我们见过太多团队把这件事拖到季度末。到那个时候，账单已经出来，能改的只剩下下个季度。所以如果你今天只做一件事，就先把每任务成本这一列建起来，哪怕它的数字还很粗。

下一次打开模型账单，值得先问的不是单价降了没有，而是一个跑完的任务花了多少。如果团队现在还回答不出这个数，那笔账单就还没有真正的负责人。

参考来源

• Gartner：AI Inference Costs Per Agentic Workflow Will Increase More Than Fivefold Through 2028（2026-08-17）— gartner.com/en/newsroom
• Mirantis：Understanding Agentic AI Infrastructure（2026-06-09，转述 Deloitte 与 McKinsey 2026 年分析）— www.mirantis.com/blog/agentic-ai-infrastructure
• Zylos Research：Inference Economics: AI Agent Compute Markets in 2026（2026-04-13，转述 IDC FutureScape 2026）— zylos.ai/research/2026-04-13
• Digital Applied：LLM Model Routing in 2026（2026-06-14）— www.digitalapplied.com/blog/llm-model-routing-2026