RTX Pro 6000D 被当算力买走，推理的哪一段决定买哪档卡

管制的线画在档位上，不画在国境线上

英国《金融时报》10 月 13 日报道，中国科技公司今年买走了一百万张以上英伟达的游戏与工作站芯片，型号以 RTX 5090 与 RTX Pro 为主，用来承接基础 AI 负载（FT 原文）。这批卡不是绕过关口的走私货。它们落在出口规则本来就不拦的那一档里。同一篇报道点名的型号是 RTX Pro 6000D 与 RTX Pro 5000。

换句话说，管制的边界画在能力档位上，不画在国境线上。门槛之下的那一档，被当成算力买走了。

先把证据强度说清楚

FT 原文有付费墙，我们没有直接读到。上面这些型号构成与数量，来自二手转述（Tikr 转述、Startup Fortune 转述）。这一点必须写在前面，因为它决定了后面哪些数字能用、哪些只能当背景。

供应与需求的估算来自文中的行业人士：今年国产 AI 芯片供给约 350 万颗，其中约 100 万颗在海外制造，而需求预计远超 500 万颗。支出侧的读数是阿里、字节、腾讯的合计资本开支今年可能翻倍以上，至约 7,000 亿元人民币。摩根士丹利给出的中国 2026 年算力支出为 1,930 亿美元，约为美国数字的 21%。后一个是第三方投行的估算，不是 FT 的数据。

绕道的形态另有报道。腾讯签约通过甲骨文在东南亚的数据中心，租用约 10 万颗先进 AI 芯片。

另一条独立读数来自 IDC，经路透转述：英伟达在中国的 AI 芯片出货量 2026 年上半年同比下降 44%，至 67.8 万颗，市场份额降至 34%，华为在缩小差距（Reuters）。

这批卡买走的其实是推理里的一段

推理不是一个动作，而是两段。前一段是 prefill：把整段输入一次算完，算力密集，结果可以缓存。后一段是 decode：一个 token 一个 token 往外吐，主要吃显存带宽，基本缓存不了。

卡在这两段上的表现不一样，你付的价格也不一样。这就解释了一个看起来矛盾的现象：为什么比华为 Ascend 910C 慢的卡，仍然被成批买走。

答案是它们不需要在所有任务上更快，只需要在 prefill 这类较简单的工作上够用。这也说明「够用」是个相对的说法，参照的是负载，不是排名。

为什么「买哪一档」其实是比例问题

同一件事也解释了「买哪一档卡」为什么常被问成能力问题。换句话说，它其实是比例问题。你的负载里 prefill 占多少、能复用多少，直接决定门槛之下的那一档够不够。

如果你的大量请求共享同一段提示词前缀，prefill 可以被缓存复用，便宜档的压力就小很多。如果每条请求的前缀都不一样，钱就花在同一段算力反复重算上。这时候换更贵的卡，只是把这段算得更快，不会让它变小。

因此判断顺序应该是先看负载形状，再看硬件。反过来做，就是拿报价单去猜业务。

我们把这两段分开计量

在自己的推理链路上，我们把这两段分开计量。原因很直接：合并成一个「每百万 token 成本」之后，省下的与浪费的会互相抵消，看不出钱花在哪一段。

我们更关心一个数，前缀缓存命中率。它决定同一段前缀是否需要付第二遍钱。命中率高，便宜档就够用。命中率低，账单上的大头是重复的 prefill，这时候换卡解决不了问题，改提示词结构与缓存策略才有用。

这条经验有一个前提要说清：它成立的条件是负载本身可以被拆开，而且你要能看见它。不可拆的部分，下面单独说。

把采购判据换成三个数

如果要在下一次算力预算里用上这件事，先把成本拆成三段可归因的量。

• 每百万 token 的 prefill 算力成本；
• 每百万 token 的 decode 带宽成本；
• 前缀缓存命中率，它决定第一项要付几遍。

有了这三个数，你的比较才成立。便宜的档位配上高命中率，可能比贵的档位配低命中率更省。反过来也一样，当 decode 占大头时，把负载压到带宽不足的卡上，省下来的钱会在延迟上还回去。

这就是我们把判据从「单价」换成「可归因成本」的原因。单价只比较一个瞬间，可归因成本比较一整段负载。

这个错位会持续下去

把管制画在能力档位上，这意味着门槛会随着新芯片发布而移动。今天够不着的档位，明年可能就落在门槛之下。于是「用够得着的档位承接简单负载」这条路会不断被重新打开。

另一侧的需求也在往同一个方向推。智能体的输出普遍比聊天更长，decode 的占比随之上升，而 decode 吃的是显存带宽。

两股力量叠在一起，前面那三个数只会更重要。

边界条件

这条判断只覆盖你能拆出去的那一段负载。游戏与工作站卡没有 ECC，没有高带宽显存，机房密度与散热的约束也不同。它们替代不了训练，也替代不了对延迟敏感的 decode。

硬件侧的供给结构还在变。英特尔 CEO 在同一场活动上判断，未来两到三年硬件仍供不应求，而内存可能是最先失去动力的那一段。这是判断，不是已发生的事实。

同期还有一条更宏观的意见。博通 CEO 说不少投资者并不清楚自己投的是什么，并直言融资可能比芯片短缺更成问题（Yahoo Finance 报道）。这是市场评论，不是需求测量，但它的方向与融资侧已经在做的动作一致。

这些声音都不改变前面那条判断。被买走的那一百万张卡买不到前沿训练能力，它们补的是入门负载的缺口。零售端的行情把同一件事映得更清楚：有报道称 RTX 5090 的实际市场价格已经高于发布价，因为买方是拿它当固定资产的机构，不是玩家。

一个具体的读法：先看账单的哪一段

如果你现在就要动手，顺序可以很简单。先拿到上个月的模型服务账单，把用量按输入与输出拆开。输入那一侧对应 prefill，输出那一侧对应 decode。

然后你要问两个问题。输入的量里，有多少是重复的前缀。重复的部分有没有被缓存住，也没被重复计费。

这两个答案通常比换卡谈判更能替你省钱。原因是它们直接减少计算量，而换卡只改变单位算力的价格。

它改变谁的哪一个决定

对 AI 应用负责人，这件事落到一张账单上：把模型服务的费用按 prefill 与 decode 拆开，先看缓存命中率，再谈换卡。

对负责基础设施与数字转型的团队，跨区域的算力租用与档位混搭是容量规划问题。判据是每一档承接的负载形状，而不是某家型号。

对管理层，采购判据从「单价更低」前移到「这笔支出能否归属到具体产出」。这也是融资方现在用的判据。

行动的起点

下一次给模型服务做预算时，先算三个数：prefill 的每百万 token 成本、decode 的每百万 token 成本、前缀缓存命中率。拿不出这三个数，档位选择就没有根据。

谈判也只剩一个起点，就是供应商报价单上的单价。

报价单为什么看不出这件事

云厂商按 token 计价，账单看起来只有一个单价。但 prefill 与 decode 的成本结构不同，一个吃算力，一个吃带宽。这意味着同一份报价单在不同的负载形状下，实际成本差别很大。

所以你拿 A 厂商的单价去比 B 厂商，比的其实是两家在各自假设下的定价，而不是你的成本。换句话说，比价必须带上你自己的负载形状，否则比的是别人的生意。

这也是我们坚持先算三个数的原因。算不出来，谈判桌上的每一个数字都无法验证，你只能接受对方的口径。

两周内怎么拿到那三个数

如果你现在就要动手，四步就够了。第一步，在网关层按输入与输出分别计数，别让账单只给你一个总量。第二步，打开前缀缓存，并记录命中率。第三步，用一段真实流量做对照，一次开缓存，一次关缓存。第四步，把结果写成一页容量规划表。

这四步里最容易被跳过的是第三步。原因是开关缓存的差异只有在真实流量上才显出来。合成数据通常没有重复前缀，测出来的结论会偏悲观。

拿到结果之后，你会看到一个数，就是同一段负载在两种配置下的成本差。这个差值才是谈判的起点，也是你唯一能拿给供应商看的数字。

哪些负载不能拆

前面那条判据有一个前提，就是负载可以拆。三类负载不满足这个前提。第一类是长上下文的一次性问答，前缀几乎没有重复，输出又很长。第二类是实时交互，延迟比单价更要紧。第三类是需要严格顺序的多步工具调用，中间状态不能重算。

换句话说，这几类负载该怎么买就怎么买，别为了压低单价把它们压到带宽不足的档位上。省下来的钱会在延迟和重试上回来。

这条边界不是例外，它是同一道题的另一半。你不需要对所有负载一刀切，你需要知道自己手里的是哪一类。

租来的算力也是同一道题

腾讯通过甲骨文在东南亚的数据中心租用算力，这条消息常被读成绕道。我们认为它更像容量规划：把一部分负载放到成本结构不同的地方，前提是这部分负载可以被搬动。

这意味着跨区域采购与档位混搭是同一个动作。你要问的问题不是哪里的卡便宜，而是哪一段负载可以搬，搬过去之后那三个数变成多少。

我们把它写在这里，是因为它容易被误读成合规话题。运营决策和合规判断是两件事，混在一起，两个都做不好。

把这三个数写进一页纸

一页容量规划表至少要有四栏。第一栏是每一档硬件的 prefill 成本，第二栏是同一档的 decode 成本，第三栏写清楚它适用的负载类型，第四栏写同一段负载在缓存开与关时的两个数。

有了这四栏，档位选择就从型号偏好变成了算术。你打开表格看到的是每一档在你自己负载上值多少钱，而不是别人告诉你它有多快。

这也解释了为什么我们先把三个数放在前面。表格填不满的时候，任何结论都只是印象。

这条判断不预测价格

需要说明的是，我们不说卡会涨价还是降价。供给结构由产能、融资和产品节奏决定，这些变量不在买方手里。它们会影响你的采购时点，但不会改变负载形状。

买方手里只有负载形状，以及那三个数。换句话说，能算清楚的部分就在自己这一侧，算不清楚的部分交给市场和供应商，本来就是他们的领域。

这也是我们把行动放在最后的原因。可以今天就做的动作，比正确但依赖外部条件的判断更值钱。

一个反问，用来检验判断

你可以用一个问题检验自己的算力预算：如果推理的输入部分明天完全免费，你的账单会降多少。答得上来，说明你已经在按段拆成本；答不上来，说明账单对你还是一个黑箱，档位选择也就没有依据。

参考来源：FT 报道，2026-10-13（付费墙，本批未直读原文，经二手转述）：https://www.ft.com/content/9dbd99db-6b0c-43bd-b7be-849f129df098；二手转述：https://www.tikr.com/blog/chinese-tech-firms-bought-1-million-nvidia-gaming-chips-this-year-heres-where-it-shows-up、https://startupfortune.com/ai-firms-are-buying-rtx-5090-gaming-cards-by-the-pallet-pricing-out-gamers/；IDC 出货读数经路透转述：https://www.reuters.com/business/retail-consumer/nvidias-china-ai-chip-share-falls-huawei-closes-gap-report-finds-2026-10-13/；厂商高管表态：https://finance.yahoo.com/technology/ai/articles/broadcom-ceo-likens-many-ai-095852496.html。凡标注「行业人士估算」「投行估算」的数字均为第三方口径，不是官方统计。