2026 年 9 月 · 5 分钟阅读

关键定义
执行层成本治理 在 agent 实际执行动作的点上强制预算、权限与计量,而不是在事后仪表盘上观察。Sapiom 的 Router / Agent Studio / Runtime 三件套把「选路-预算-记录」放进执行路径内。
模型路由(Model routing) 每次调用根据任务复杂度、成本、质量、延迟与策略选择最合适的模型,而不是默认最贵。Sapiom 的 Router 把静态基础设施选择变成执行时的实时决策。
Agent FinOps 把云 FinOps 实践应用到 agent 推理与执行成本:预算前置、用量计量、成本归属。Sapiom 投资人称「CTO 正在扮演 CFO」——agent 成本治理正在成为基础设施采购。
agent 成本失控正在从「管理问题」变成「基础设施问题」。Sapiom 09-08 宣布 $35M Series A(Dragonfly 领投,累计 $50M),产品三件套 Router / Agent Studio / Runtime,核心是把成本治理放到 agent 的执行点:预算与权限先于执行强制、每次调用按成本-质量-延迟-策略实时选路、全量 metering 与完整审计轨迹。投资人 Haseeb Qureshi 说得直白:agent 正在变成没有经理、没有预算的员工,CTO 越来越像在扮演 CFO——这不是另一块仪表盘能解决的治理问题,是基础设施问题。
Sapiom 09-08 宣布完成 $35M Series A,Dragonfly 领投,Accel、Gradient、Coinbase Ventures、Operator Collective、Formus Capital、VanEck Ventures 参与;老股东 Okta Ventures、Menlo Ventures、Anthropic、Array Ventures 跟投。公司在成立 11 个月、种子轮 6 个月后拿到这轮,累计融资 $50M。
产品三件套:Router(每次模型调用按任务要求、成本、质量、延迟、可靠性与公司策略选路,不默认最贵);Agent Studio(工程团队在本地代码库上下文里构建、测试、审查、部署 agent);Runtime(托管生产执行:访问、路由、恢复、step 级可见性与控制)。
我们的判断:方向是对的。agent 成本治理的三个关键动作——选路、预算、计量——都必须发生在执行路径上,而不是事后观察。这也是 Sapiom 区别于「治理仪表盘」类产品的根本:仪表盘在动作发生后记录,执行层在动作发生前强制。
这与我们一直主张的执行层控制一致:runtime enforcement 优于事后 dashboard promise。Dragonfly 的话把它说成了行业共识——「不是治理问题,是基础设施问题」。
对任何在跑 agent 的团队,Sapiom 的架构拆出三条可直接借鉴的模式:
1)预算先于执行:把预算与权限前置到 agent 执行路径,超预算动作被拦截或降级,而不是月末对账。
2)执行点实时选路:按任务复杂度与成本-质量-延迟约束选模型,不默认最贵;简单分类交给小模型。
3)全量 metering:每一步动作计量并进审计轨迹——成本归属、权限校验、执行记录三位一体。
保持怀疑同样重要。「已处理 2.7 亿+ 交易、日 10 万+ agent runs、客户推理成本 -75%」都是厂商口径,需要独立验证。Gartner 的预测则是中立的背景板:40%+ 的 agentic AI 项目将在 2027 年底前被取消,成本是首要原因——这个市场的问题真实存在,但每个玩家的解法都刚起步。
1)AI App lead:把「路由-预算-计量」当 agent 生产化 stack 的默认三层,而不是事后补的 FinOps 工具。
2)C-suite / CFO:agent 成本治理是基础设施采购,不是又一个 dashboard 订阅;结合 Deloitte 数据(48% 的 CFO 直接管 AI 成本、60% 需要更复杂的成本管理),这一层迟早进预算。
3)数字转型负责人:先在小范围试点里验证「省 75%」的真实性,用自己账单核对,再规模化。
数据来源与口径
一个把 agent 从 demo 带到生产的平台,产品三件套 Router / Agent Studio / Runtime。09-08 宣布 $35M Series A(Dragonfly 领投),累计融资 $50M。
每次 agent 动作在发生前就按公司策略与预算权限强制校验,超预算动作被拦截或降级,而不是月末对账后再发现。
厂商称有客户推理成本 -75%,这是厂商口径需独立验证;行业共识是路由能显著降低成本(不默认最贵、按复杂度分派),但要以真实账单与质量基准为准。
仪表盘在动作发生后观察;执行层治理在动作发生点强制策略。Dragonfly 投资人原话:「这不是另一块仪表盘能解决的治理问题,是基础设施问题。」
三条可迁移模式:预算与权限前置到 agent 执行路径;按成本-质量-延迟做模型分层路由;全量 metering 保证每步可审计。先小范围试点,用自己的账单验证节省。
NVIDIA 买下 HF:不可变审计,记在谁的边界里?
NVIDIA 以 129 亿美元收购 Hugging Face,同期发布 Secure Agent Workspace 参考架构:执行点、签名策略、不可变审计记录全部写进官方文档——但每一层证据都记在 NVIDIA 自己的边界内。垂直整合没有消除信任缺口,只是移动了它。
模型路由不是配置:闭环才是省钱的另一半
RouteNLP 生产试点(ACL 2026 Industry Track):8 周、约 5000 查询/天,推理成本降 58%、p99 从 1847ms 到 387ms。我们的判断:静态路由只拿到一半省钱——把失败聚类→定向蒸馏→重训路由的闭环跑起来,收益才翻倍;没有 eval 门禁的路由是看不见赔率的赌局。
你未必需要专用向量数据库:2026 企业 RAG 选型框架
一篇 2026 年论文用 5 万文档对照基准给出硬数据:统一数据层(pgvector)带日期过滤查询延迟降 92%、租户隔离查询降 74%、同步不一致窗口归零。先回答 5 个问题再选引擎:规模、新鲜度、查询形态、权限、运营成本。
LLM 模型路由:推理成本降 40-80% 的真实条件
把每条请求路由到最便宜的可用模型,是 2026 年最大的成本杠杆:RouteNLP 试点降 58%、RouteLLM 基准降 85% 的背后,藏着三个条件——便宜模型占比过 50% 才复利、路由必须配评估闸门、闭环蒸馏比静态规则强一倍。