Agentic RAG:当检索本身变成 Agent,企业知识库的下一代架构

2026-11-06 技术文章

<title>NO.025《Agentic RAG:当检索本身变成 Agent,企业知识库的下一代架构》</title>

上个月帮一家做智能售后的客户排查知识库问题,有个案例我到现在还有印象。用户问:"我们去年采购的那批设备和现在线上的新版本比,质保条款差在哪?"系统检索出来的片段,要么是去年的采购记录,要么是新版本的条款,各自答了一半,拼起来答非所问。复盘的时候我们发现,检索本身没有做错什么——向量召回、重排都在正常工作。问题出在问题的结构上:它需要先查一次、想一下、再查一次,而这条管线从头到尾只给了模型一次机会。这类"查得到但答不对"的情况,几乎每个认真上线过 RAG 的团队都撞见过,只是很多人把它归咎于检索质量,方向从一开始就偏了。

这一年多做企业知识库项目,我的一个越来越强的感受是:RAG 的天花板往往不在向量库选型,也不在 Embedding 模型,而在架构本身——检索是一个写死的流程,模型只能在流程末端接盘。Agentic RAG 要解决的就是这件事:把检索的控制权交还给模型,让它自己决定查什么、查几轮、查完信不信。这篇文章聊聊它是怎么工作的,以及企业要落地时该算哪几笔账。

一、固定管线的天花板:三类问题一问就露馅

Chunk 切分、知识切分与检索优化这些工程细节,之前已经单独写过,这里不重复展开。我想聊的是更上游的一层:Chunk、向量检索、重排、生成这条固定管线,全程只有一次"理解问题"的机会。拿真实项目里高频出现的三类问题去套它,基本一问就露馅。

第一类是多跳推理。开头那个质保条款的例子就是典型的两跳问题:先定位设备和采购批次,再对比新旧条款。固定管线把整个问题压成一个向量去查,等于让一次检索同时承载两次推理,两头都做不扎实。你把 Top-K 调大也没用,材料都在召回列表里,生成端就是组织不起来。

第二类是模糊提问。"帮我看看上次说的那个方案有什么风险"——"上次"是什么时候?"那个方案"是哪一份?人靠对话上下文一听就懂,检索器不行。固定管线只能硬着头皮拿这句原话去算相似度,召回什么全凭运气,运气差的时候连相关文档的边都没摸到。

第三类是需要规划检索路径的问题。比如"对比 A、B 两个方案在我们部署场景下的合规风险",合理的做法是拆成若干子问题、分别检索、再交叉汇总。固定管线里没有"拆"这个动作,它只会把长问题整个丢进检索器,然后祈祷 Top-K 里恰好凑齐了答案。

不少团队排查这类问题时,第一反应是换 Embedding、加重排,折腾一圈指标纹丝不动。原因说穿了不复杂:检索器没有做错什么,是这个问题压根就不该被压成一次检索。方向错了,用力越猛越白费。

这三类问题放在一起看,暴露的其实是同一件事:检索管线是静态的,而真实问题的结构是动态的。查询改写、HyDE 这些技巧当然能缝缝补补,也确实有效,但只要控制流是写死的,遇到结构复杂的问题,天花板就在那里。

二、RAG 检索增强的下一站:让检索本身变成 Agent

Agentic RAG 的核心变化,一句话就能说清:把检索从"一个被调用的函数"升级为"一个会规划的 Agent"。RAG 检索增强这条路线发展到现在,单点优化带来的边际收益越来越薄——Embedding 换了一版又一版,重排模型调了一轮又一轮,复杂问题的通过率却涨得越来越慢。继续在单点上死磕,不如把控制流做活,这是我认为当下性价比更高的方向。

具体拆开,Agent 化的检索回路包含四个环节。

查询规划与改写。模型先判断这个问题需要几次检索、每次查什么。两跳问题被拆成两个子查询,模糊问题先结合上下文补全指代,再决定检索词。相当于在检索之前加了一层"理解",而不是让检索器直接消化原始问句。拿开头那个例子说,规划层的输出大概是这样:先查"设备采购批次与对应质保条款",再查"新版本的条款变更记录",最后做对比。每一步目标明确,检索器拿到的不再是那句绕来绕去的原话。

工具选择。知识库不再只是一个向量库。规格文档走向量检索,结构化的产品参数走数据库查询,时效性强的信息走搜索接口,关系型的追问走知识图谱。模型根据每个子问题的性质挑选趁手的工具。这一步对企业场景价值很大,因为企业里的知识从来不是一种形态,硬塞进一个向量库本身就是失真。

顺带说一句,这套思路和现在流行的 Function Calling、MCP 这些工具协议是天然配套的。企业把内部系统封装成一个个标准化工具,检索 Agent 只管按需调用,工具层和规划层各管各的,后面加新数据源也不用动主流程。这也是我认为 Agentic RAG 比传统管线更耐扩展的原因。

多轮检索。第一轮查完不满意,Agent 可以改写关键词再查,或者换一个数据源再试。检索从"一锤子买卖"变成"可以试错的循环"。关键是这个循环有明确的退出条件——材料够了就停,避免无限空转。

自我反思与结果校验。拿到检索结果后,Agent 先自问三件事:材料够不够回答这个问题?几段内容之间有没有矛盾?引用的信息时间对不对?不够就继续查,矛盾就在答案里明确标注。别小看这一步,我们实测里收益最大的就是它——大量失败案例的根源不是"查不到",而是"材料不够也硬答"。加了这道自检,复杂问题的答案完整率有肉眼可见的提升。

四个环节串起来,RAG 检索增强的工作对象就变了:过去优化的是"一次检索的质量",现在规划的是"一整套检索策略"。打个比方,过去我们不断训练检索器去迁就五花八门的问题,现在是让模型站到检索器前面——它清楚自己缺什么信息,会自己去找。

这里也要泼一盆冷水:不是所有问题都需要 Agent 出场。简单事实型问题,一轮固定检索又快又稳,硬套多轮回路纯属浪费。Agentic RAG 的正确定位是接管那部分"需要想一想"的长尾复杂问题,而不是全量替换。我们的经验是把"是否升级"的判断做轻——用小模型或者规则先分诊,别让路由本身变成新的延迟大头。

三、企业落地:三笔账要算清

架构听着美好,落地要过三道坎,每道坎都是钱和时间。

第一笔,和私有知识结构的结合账。Agentic RAG 想发挥威力,前提是可用的工具够多、够规整。如果企业手里只有一堆 PDF 切出来的 Chunk,Agent 再聪明也只能在那个向量库里打转。实践中比较靠谱的组合是:文档类知识走检索、结构化参数走数据库、实体关系走知识图谱。举个例子,查"某零部件的供应商是谁、这家供应商还有哪些产品在售",知识图谱上一条路径就出来了,向量检索得绕好几跳还不一定全。所以我们给客户的建议一直是:先梳理知识形态,把该结构化的结构化,再上 Agentic 架构,顺序不能反。

第二笔,成本与延迟的账。多轮检索意味着多次模型调用,延迟和费用都会往上走。全量走 Agent 不现实,也没有必要——日常咨询里八成的问题一轮检索就够。我们做方案时分两档:高频简单问题走固定管线,保证响应速度;分类器判定为复杂长尾的问题,才升级到 Agent 模式。这样整体成本可控,复杂问题的质量还能提上来。顺带提醒一句:Agent 模式下要把检索轮次上限和单轮结果窗口都设成硬约束,否则一个钻牛角尖的问题能把费用拉到失控。

第三笔,评测的账。没有评测就没有迭代,这话在 Agentic RAG 上尤其成立。它的评测比传统 RAG 难,因为检索路径不固定,要评的不只是最终答案,还有中间过程:检索轮次是否合理、工具选得对不对、失败时会不会陷入死循环。具体量化时,我们常用三个指标:答案完整率、引用可追溯率(答案里的关键论断能不能回溯到具体文档)、平均检索轮次——前两个看效果,后一个看成本。我们的做法是立项时就建一套带标注的评测集,把多跳、模糊、需要规划这几类问题都覆盖进去,每个版本上线前跑一遍回归。评测集看着是额外投入,但它能让你在调参时知道每一次改动到底是变好了还是变坏了。

还有一笔容易被忽略的账:失败兜底。多轮检索跑满轮次还是凑不齐材料怎么办?合理的做法是坦然降级——把已有证据和缺口列出来交给人工,或者明确告诉用户"现有资料答不全"。宁可承认不知道,也不能让模型拿着半截材料编一个,这在企业场景是红线。

四、写在最后:AI 友好化的另一半

做易科势腾的 AI 友好化项目时,我们反复讲一件事:让企业内容被大模型"读得懂"。做了几十家企业的诊断之后我越来越确信,"读得懂"只是上半场——内容能被 AI 消费之后,怎么被 AI 高效地组织和调用,是下半场,而这正好是 Agentic RAG 的主场。我们讲 AI 友好型官网时常提的六层架构,其中检索层和 AI 服务层的设计,本质上就是在为这个阶段铺路。一套结构清晰、语义完整的知识库,配上一个会规划的检索 Agent,企业知识才算真正"活"了起来。

如果你现在还在纠结 Chunk 大小和 Top-K 取多少,我的建议是:这些当然要做,但别把它们当成终点。值得提前想清楚的问题是——当用户的问题变复杂、当检索需要"想一想"的时候,你的架构接得住吗?