你未必需要专用向量数据库：2026 企业 RAG 选型框架

企业 RAG 的选型问题，2026 年已经从「哪个向量数据库最快」变成「你到底需不需要一个独立的向量数据库」。这个转变不是观点之争，而是一篇带对照基准的论文与多个 2026 年工程框架的独立收敛：多数企业——几万到几百万个 chunk、要权限过滤、要新鲜度——的正确答案是不要单独买一个向量库。真正的账单大头也不在向量库，而在 agent 化检索的 token 乘数。

一篇论文把问题从「快不快」改成了「要不要」

arXiv 2605.03275（Walmart Global Tech 与 AWS 研究者，2026-05 预印本）直接命名了生产级 RAG 的三个隐藏故障：数据陈旧、租户泄漏、查询组合爆炸。测量值很具体——元数据更新与向量更新之间存在平均 3.54ms 的不一致窗口，窗口内检索会返回基于过期内容的答案；模拟应用层过滤 bug 时，拆分架构在 1000 次查询中出现 0.2% 的跨租户泄漏；把相似度、日期、类别、权限拼进一个查询，应用层缝合代码约 1,800 行，是生产事故的第一来源（来源：https://arxiv.org/pdf/2605.03275）。

论文的对照基准（5 万文档、20 个租户、5 个类别、180 天）给出了关键数字：纯相似度查询下，拆分架构与统一架构几乎相同（0.92ms vs 0.91ms）；但加上日期过滤，拆分架构延迟增加 947%，而用 pgvector 的统一数据层反而更快——日期过滤查询延迟降 92%、租户隔离查询降 74%、不一致窗口归零、泄漏归零、同步代码减少 93%。论文的结论不是「向量库没用」：「向量数据库不会消失。纯相似度 + 大规模负载仍然是它们的正确工具。但常见生产场景——相似度加过滤加新鲜度加访问控制——一个数据库、一条 SQL、一个事实源，不是妥协，是正确的架构。」

专用向量库的收益只在尾部兑现

工程社区的判断与论文收敛。pulserevops 的 2026 选型指南给出同样的经验法则：「低于几百万个向量，Postgres 扩展通常胜出；超过再选专用引擎，且要用自己的数据验证 recall 与 p99」。它的核心观察是：生产 RAG 的失败极少是「数据库宕了」，而是静默漂移——重索引后 recall 下降、元数据过滤悄悄把候选池缩到 12 篇文档、月末 p99 飙升、或某次回填让账单翻三倍。检索本身在正确配置下通常是几十毫秒，是链路里最小的一段——embedding 调用与生成调用才是大头（来源：https://pulserevops.com/ai-infrastructure/ai339）。

ALGORCOMP 的 2026 成本数据把「尾部收益」量化了：10M 向量规模下，Pinecone 托管约 1,500 美元/月、Weaviate 自托管约 800 美元/月、pgvector 约 300 美元/月、Azure AI Search 约 2,000 美元/月——而 RAG 相比微调的整体成本优势（典型 12-125k 欧元 vs 125-500k 欧元）来自别处：无需重训、数据可换模型、答案可溯源。同一来源还给出一个常被忽略的成本：切换 embedding 模型 = 全量重新生成向量，1M 文档约 65 美元一次性成本，加上工程时间——实践中你会在一个 embedding 模型上钉 1-2 年（来源：https://www.algorcomp.pl/en/knowledge-base/rag-for-business-vector-stores-embeddings-costs）。

agent-context.org 的框架把问题推到更前面：「你需要一个独立的向量数据库吗？」它的答案是「有时候，而且比厂商生态暗示的频率低得多」。它记录的真实事故很有代表性：演示时一切正常，生产里 agent 自信地引用一款八个月前就已停产的 SKU——embedding 来自四月份静默失败的夜间导出，没人发现，直到客户投诉。拆分架构意味着你同时运行两套事实源，而两套事实源的同步是一个你无意中继承的分布式系统问题（来源：https://www.agent-context.org/guides/do-you-need-a-vector-database-a-practical-decision-framework-for-rag-in-2026）。

Agentic RAG 才是账单大头

向量库的月度账单是几百到几千美元量级；agent 化 RAG 的 token 乘数是它的一到两个数量级。Sumatosoft 的 2026 实施指南给出一句话概括：「一个问题不是一次模型调用」——agent 会为了规划、检索、评估、综合展开 3-15 次内部调用，token 账单是单次检索 RAG 的 3-10 倍。这个乘数是模式本身的运作方式，不是 bug：每次推理、每次检索、每次评分都单独计费。对策是硬性的：为 reasoning 和 retry 设上限、per-request token 预算、以及低于约 2 秒延迟要求的应用直接放弃这个模式（来源：https://sumatosoft.com/blog/agentic-rag-enterprise-implementation-guide）。

把两个数量级放在一起看，选型优先级就很清楚：先解决「一个问题展开多少次模型调用」这个成本变量，再谈向量库选型。省一个 token 乘数，等于省掉一整年向量库账单。

五个问题决定一切

在采购任何向量引擎之前，先回答五个问题（综合论文与两份工程框架的问题集）：

第一，规模。你真的在服务数亿向量、高 QPS、纯相似度查询吗？没有，ANN 性能就不是你的瓶颈，专用引擎在解决你没有的问题。

第二，新鲜度。检索必须在几分钟内反映内容变更吗？如果是，独立的向量索引就是同步负债——embedding 应该跟内容绑在一起，而不是住在另一个系统里。

第三，查询形态。用户除了按概念搜索，还按编号、代码、精确短语搜吗？需要，就是混合检索问题——真正的问题是：你愿意在两个引擎之间写多少胶水代码，还是一条查询解决。

第四，权限与治理。检索需要尊重权限、草稿状态、多语言吗？如果这些已经存在于你的内容模型里，在内容查询里过滤，远好过把访问规则复制进向量库。

第五，运营成本。凌晨两点，谁维护 embedding 管道？诚实的答案是「没人有时间」，第二套事实源的运维负担就是决定项。

我们的判断

第一，这是运营决策，不是基准测试决策。问「哪个向量库最快」之前，先问「你愿不愿意维护第二套事实源」。论文的 947% 延迟劣化、0.2% 泄漏、1,800 行胶水代码，全部来自同一个架构决定——把数据拆进两个系统。工程框架与论文独立收敛到同一结论，这个收敛本身就是证据。

第二，新鲜度与权限比 ANN 速度更能决定成败。企业 RAG 的真实查询几乎都带过滤与权限约束，纯相似度只是教科书场景。统一数据层在「相似度 + 过滤 + 新鲜度 + 权限」这一常见组合里，不是次优选择，而是数据上更优的选择。

第三，agent 化是成本故事的主角。2026 年最贵的 RAG 决策不是选哪个向量库，而是让不让 agent 自主规划检索——3-10 倍的 token 乘数必须配上硬性重试上限与预算。没有上限的 agentic RAG，账单会替你选架构。

第四，说一句诚实的内部实践：OOMeta 自己的 agent 记忆与检索栈跑在 SQLite + FTS5 全文检索（BM25）上，按重要性排序做 SQL 注入，热路径上没有专用向量库。这是单家小公司的运营选择，不是大规模证据；但它与论文和行业框架的收敛方向一致，也让我们对「多数场景不需要第二套事实源」这个判断有第一手体感。

给买方的行动清单

第一步，跑一次真实查询审计。把生产日志里一周的查询样本拿出来，统计：多少是纯相似度？多少带日期/类别/权限过滤？多少是精确短语？这一步决定你要的是「向量库」还是「带向量检索的统一数据层」。

第二步，做新鲜度与权限的诚实评估。内容变更到检索可见，你能容忍多久？权限规则现在存在哪里，能不能用一条查询完成过滤？答不上「分钟级 + 内容模型原生过滤」，独立向量库就是负债。

第三步，在真实规模上跑两周对比。把候选引擎装进你的生产网络位置，用你自己的 golden set（50-200 对查询-期望答案）在计划任务上跑 recall 与 p50/p95/p99，而不是看厂商基准。稳定一周再切换，旧路径保持热备。

第四步，如果走 agentic RAG，先设硬上限再谈体验。retry 上限、per-request token 预算、步骤级 trace——这三样没有，问题就不是选型，而是账单失控。留给你的决策问题是：你的企业知识库里，有多少查询真的需要 agent 自主规划多跳检索？如果占比不到两成，普通 RAG 加统一数据层，是更贵还是更便宜，算完再买。

参考来源: Budigi & Sirigiri《Beyond Similarity Search: A Unified Data Layer for Production RAG Systems》(arXiv 2605.03275, 2026-05 预印本) — https://arxiv.org/pdf/2605.03275 ；pulserevops《How do you choose a vector database for a production RAG system in 2027?》(2026-08) — https://pulserevops.com/ai-infrastructure/ai339 ；ALGORCOMP《RAG for business – vector stores, embeddings and production costs (2026)》— https://www.algorcomp.pl/en/knowledge-base/rag-for-business-vector-stores-embeddings-costs ；agent-context.org《Do You Need a Vector Database? A Practical Decision Framework for RAG in 2026》— https://www.agent-context.org/guides/do-you-need-a-vector-database-a-practical-decision-framework-for-rag-in-2026 ；Sumatosoft《Agentic RAG: Complete Enterprise Implementation Guide (2026)》— https://sumatosoft.com/blog/agentic-rag-enterprise-implementation-guide