ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Datawhale学习笔记:Agent记忆与RAG失效分析

Datawhale学习笔记:Agent记忆与RAG失效分析 给 Agent 加了记忆和 RAG,它为什么还会答错?—— 失效环节拆解与优化实践关键词:Agent、RAG、长期记忆、向量检索、幻觉、忠实度评估、混合检索、Rerank、记忆冲突消解一句话结论:记忆和 RAG 不是「装上就灵」的保险,而是把「答错的来源」从模型参数知识转移到了整条管道上。任何一个环节失真,答案都会错 —— 哪怕正确答案就躺在记忆库和知识库里。目录先看现象:为什么「资料里有」还是会答错全景链路:一条管道上的 6 个环节逐环节拆解:每个环节怎么「悄悄出错」实战复盘:一次答错的完整排查过程优化路线图:按优先级动手可直接抄的自查清单结语参考与延伸阅读1. 先看现象:为什么「资料里有」还是会答错先看一个典型场景:用户上周在对话里亲口说过:「项目 Alpha 的截止日期是 10 月 15 日。」公司知识库《项目管理规范》v2 里也清清楚楚写着:「项目 Alpha 截止日期:2025-10-15。」结果 Agent 回答:「截止日期是 9 月 30 日。」正确答案同时存在于记忆和RAG 知识库两份资料里,Agent 还是答错了。为什么?因为 Agent 本质上不是「查字典」,而是一条管道(pipeline):用户提问 → 查询理解 → 记忆检索 + RAG 检索 → 上下文组装 → 模型生成 → 校验输出任何一个环节失真,最终答案都会错。记忆和 RAG 只是把「答案」从模型参数知识变成了「待检索的证据」,但证据要经过写入、存储、检索、组装、生成、校验六道关卡,每一道都可能失真。核心认知:检索增强是提高答对概率的手段,不是保证。优化的目标不是「消灭错误」(不可能),而是「让每个环节的失真可量化、可定位、可修复」。2. 全景链路:一条管道上的 6 个环节
返回列表