ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

什么是llm-wiki-compiler(llmwiki):RAG之外的新思路,把文档编译成可引用的AI知识库

什么是llm-wiki-compiler(llmwiki):RAG之外的新思路,把文档编译成可引用的AI知识库 什么是llm-wiki-compilerllmwikiRAG之外的新思路把文档编译成可引用的AI知识库【免费下载链接】llm-wiki-compilerThe knowledge compiler. Raw sources in, interlinked wiki out. Inspired by Karpathys LLM Wiki pattern.项目地址: https://gitcode.com/gh_mirrors/ll/llm-wiki-compilerllm-wiki-compilerllmwiki是一款开源的知识编译器The Knowledge Compiler把原始文档、笔记、网页等素材一次性编译成可浏览、可搜索、可引用的互链 Markdown Wiki 知识库而不是像传统 RAG 那样每次查询都临时翻找碎片。它灵感来自 Karpathy 提出的 LLM Wiki 模式——先编译知识再让 AI 查询和复用这份编译产物。一句话概括RAG查询 → 搜碎片 → 回答 → 遗忘llmwiki文档 → 编译 → Wiki → 查询 → 保存答案 → 更丰富的 Wiki → 更好的回答为什么传统 RAG 不够用知识不会沉淀如果你用过 RAG检索增强生成可能遇到过这些痛点每次都在重复劳动每个问题都重新检索原始文档块模型每次都要现场重建概念之间的关系结构用完即弃知识不积累问过的问题、得到的高质量答案下次还是从零开始碎片互相竞争同一个概念出现在 5 个文档块里检索时谁排前面全看运气❓难以审计AI 给出的答案很难追溯到到底是哪份文档的哪几行支撑的。llm-wiki-compiler 的思路是把工作从查询时移到编译时让 LLM 先把知识整理成结构化的页面后续查询、导出、Agent 集成都在这份稳定的知识产物上运行。知识会随使用而复利增长compound。把文档编译成 Wiki一条命令的演示安装后npm 包名为llm-wiki-compiler可执行文件为llmwiki最快体验只需一条命令llmwiki quickstart ./notes.mdquickstart会完成三件事摄取ingest源文档 → 两阶段 LLM 编译生成 Wiki 页面 → 打开本地浏览器查看器。整个过程大致如下更详细的入门流程见 docs/quickstart.mdx项目背景见 README.md。仓库里还提供了一个无需 API Key 就能浏览的预生成示例 Wiki位于 examples/basic/很适合先感受一下编译产物长什么样。编译原理两阶段流水线 混合检索llmwiki 的编译过程分为两个阶段详见 docs/concepts/how-it-works.mdx概念抽取每个变更过的源文件先交给 LLM 抽取关键概念且所有源都抽完才开始写页面——这样编译器能看到跨文档的概念重叠页面生成为每个概念生成带 YAML frontmatter、正文、[[wikilink]]互链的页面。多个文档提到同一概念时会合并成一个页面而不是产生一堆重复碎片。编译之后还有三层保鲜机制增量编译每个源文件做 SHA-256 哈希没变过的文档不会重新走 LLM 流程省钱又省时混合检索查询时先用语义向量缩到 Top-K再用 BM25 重排最后沿 wikilink 图扩展邻页得到一份紧凑且可引用的证据包新鲜度追踪源文档改了对应页面会被标记为stale过期源被删了则标记orphaned孤儿llmwiki refresh --stale可以只修复受影响的页面。在本地查看器中浏览你的 AI 知识库编译完成后运行llmwiki view会在本地只读、绑定 127.0.0.1打开一个浏览器界面侧边栏导航、全文搜索、力导向概念图以及每个段落旁边的引用徽章——点开就能看到支撑该句话的源文件和行号。查看器提供 4 套主题。下面是默认主题 Scientific Clay 的效果而 Minimal 主题会自动跟随系统的浅色/深色设置同一份 Wiki 换肤效果如下可引用、可审核生成内容也能审计llmwiki 不只是生成一堆 Markdown它默认就是一套可审计的生成知识体系段落级引用每个论断都能追溯到源文件和行范围llmwiki lint会校验链接与引用评审队列低置信度、与既有内容矛盾、违反模式规则的页面可以先挂起为候选页人工批准后再发布质量评估llmwiki eval输出健康分、引用覆盖率、最差页面分布等指标可以接进 CI 当质量门禁活动日志所有操作追加写入log.md全程可查。llmwiki 适合谁不适合谁维度传统 RAGllm-wiki-compiler存储单元原始文档块编译后的类型化 Wiki 页面跨源概念重复块互相竞争编译时合并为一个页面知识增长查询结果用完即弃答案可存回 Wiki持续复利可追溯性块级来源引用段落/论断级行号引用适合场景高频变化的语料、临时检索需要长期沉淀、可审计的知识库✅适合论文/研究笔记、项目文档、团队手册、决策记录、长期运行的 AI Agent 上下文。 ❌不适合高频变动的日志流、一次性检索——那种场景用普通搜索或 RAG 就够了。3 分钟上手清单安装需要 Node.js ≥ 24npm install -g llm-wiki-compiler配置 LLM 提供商默认 Anthropic也支持 OpenAI 兼容接口、Ollama、GitHub Copilot 等见 docs/configuration/providers.mdxllmwiki quickstart 文档或URL—— 一条命令完成编译llmwiki query 你的问题 --save—— 提问并把答案存回 Wikillmwiki view --open—— 在浏览器里浏览你的 AI 知识库更进阶的能力供感兴趣的读者延伸阅读可配置生命周期档案CLP用一份profile.json声明实体、关系、工作流内置 AutoSci 科研与 Newsroom 编辑部两套模板 → docs/concepts/configurable-lifecycle-profiles.mdx通过 MCP 把 Wiki 暴露给 AI Agent → docs/guides/mcp-agent-integration.mdxOpen Knowledge FormatOKF导入/导出与其他工具交换编译知识 → docs/guides/open-knowledge-format.mdxKarpathy 模式的完整解读 → docs/concepts/karpathy-pattern.mdx总结如果你想要的不只是问 AI 一个问题而是把散落的知识编译成一份越用越厚、句句有出处、人和 Agent 都能复用的 AI 知识库llm-wiki-compiler 正是为这个目标而生的工具。【免费下载链接】llm-wiki-compilerThe knowledge compiler. Raw sources in, interlinked wiki out. Inspired by Karpathys LLM Wiki pattern.项目地址: https://gitcode.com/gh_mirrors/ll/llm-wiki-compiler创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表