第12章：RAG初级实战——搭建本地知识库问答

1. 项目背景

业务场景

承接第11章的制造企业技术知识库场景。IT部门已经完成了5000份Markdown文档的切分和向量化（embedding），现在需要把这些能力串起来，交付一个真正可用的智能问答系统。

维修工程师老张的期待很简单：“我不要看一堆检索结果，我要直接问’E2027怎么修’，系统就告诉我步骤。就跟ChatGPT一样，但它得看的是我们的内部文档，不能瞎编。”

技术团队面临的挑战是——如何把"语义检索"和"大模型生成"串成一个完整的问答链路？检索到的chunk怎么喂给大模型？怎么让大模型在回答中引用来源文档？如果检索出来的chunk不相关怎么办？

这就是RAG（Retrieval-Augmented Generation，检索增强生成）要解决的问题。

痛点

1. 检索与生成脱节：检索系统返回最相似的chunk，但大模型不知道这些chunk从哪来、置信度多高，容易把不准确的信息当成事实。
2. Prompt工程缺失：把检索结果直接拼到Prompt里，缺少指令约束，模型可能忽略检索结果、编造内容，或者回答完全跑题。
3. 无引用机制：用户无法验证回答的正确性——“这个维修步骤是真的来自手册，还是模型编的？”
4. 知识库更新难：文档改了之后需要重新切分、重新生成向量、重新构建索引——缺乏完整的增量更新流水线。

一句话总结：