第 02-0556 页

的困境和未来·杏和舒筋堂

> 来源：https://mp.weixin.qq.com/s/EayFPm6GnUbFr6DJ71WZUw > 号：gh_88d6e4062ee9 > 专辑：无 > 标题：RAG的困境和未来 > 真正文：2047 字　真图：0 张　真视频：0 个 id="js_content" style="visibility: hidden; opacity: 0; ">从历史上看，RAG的角色其实已经变了三次。早期retrieval / open-domain QA时代，模型自身知识很弱，retrieval的主要职责是“把答案所在的文档找出来”，所以核心指标自然是Recall@K、MRR、reranking。到了大模型RAG时代，LLM已经有大量参数知识，问题变成“怎样把外部知识补给模型，并减少hallucination，于是开始研究chunking、reranking、context compression、grounding、faithfulness。而现在进入agent时代，模型已经可以自己判断要不要搜索、改写query、多轮检索、阅读结果、调用工具、继续推理，因此retrieval本身越来越像一个action，问题已经逐渐变成“模型什么时候应该向外部世界获取什么信息，怎样更新自己的认知状态，以及什么时候已经拥有足够信息采取行动？”这和传统RAG其实已经不是同一个研究问题了。随着未来模型能力越来越强，context window越来越大，传统研究领域将会持续受到挤压，很多问题将失去研究价值。更好的query embedding会越来越commodity，Top-K reranking空间会持续缩小，chunk就算切得更好也会逐渐工程化，context compression会被长上下文+效率提升侵蚀空间，简单answer confidence会在强模型calibration改善后价值下降……但是无论模型多强，都有三个物理事实不会改变：模型不可能在参数中拥有未来的信息；模型不可能天然拥有用户/机构的私有状态；模型的计算和观察永远有成本。只要这三条成立，“外部信息获取”就永远存在。比如获取最新外部事实、访问私有/局部信息、知道自己缺什么信息、判断新信息是否真的解决缺口、面对冲突证据时决定相信什么、信息来源与provenance、在搜索成本和信息价值间决策、外部信息可能被操纵/选择性呈现、在动态世界中保持认知状态正确……所以RAG最本质的问题可能不是Retrieval，而是Epistemic Control。模型内部有一个当前认知状态，世界中有模型尚未观察到的信息，模型能够获取信息采取动作，得到observation　，然后更新，并最终决定继续观察或者采取行动。从这个角度看，搜索网页、查数据库、读长文档、调用API，甚至让另一个agent去调查，本质上都是information acquisition actions。真正不会随着模型增强消失的，是四个问题。第一个是Knowledge Gap Identification，也就是模型得知道“我到底不知道什么？”这不是query rewriting，query rewriting是结果，真正的问题是，其中是当前状态相对于任务目标的缺口。第二个是Value of Information，不是“还能不能继续搜索”，而是“再获得某条信息，对最终决策价值多少？”模型应该比较和获取信息的成本，这比stopping、adaptive retrieval、budget control都更底层。第三个是Epistemic State Update。拿到passage之后，模型不应该只把它append到prompt，应该判断到底填补了缺失知识、重复了已有信息、提供了另一条proof、与已有evidence冲突、改变某个假设概率，还是只是噪声？传统RAG很大程度上把这个工作全部扔给transformer attention了，这可能是未来非常核心的地方。第四个是Source / Evidence Trust。未来agent不只是从一个干净的Wikipedia corpus检索，它会面对Web、email、database、API、other agents、memory、user-provided documents、potentially adversarial sources，所以它必须回答，“这条observation应该改变我的信念多少？”这涉及provenance、contradiction、source reliability、selective evidence、uncertainty。模型越强，这个问题可能反而越重要。因为agent越能自主行动，错误的epistemic update后果越大。未来RAG研究不应该再把目标写成“Improve Retrieval-Augmented Generation”，而应该逐渐转成“Reliable information acquisition and epistemic control for language-model agents”。RAG是其中一种实现，Web search agent是一种实现，Tool-use agent是一种实现，Long-context reader也是一种实现。

不知道自己偏哪种体质？对一对就知道——九种体质，照镜子勾49题，1分钟出结果。

九种体质自测 →

小马

小马 · 杏和舒筋堂中医健康助手 · 真人当面看更准

您好，我是小马。哪里不舒服，跟我说说——是酸、是胀、是麻，还是睡不好，我在。

杏和舒筋堂 · 中医健康助手

本页回答只作健康参考，不替代当面看诊