简介大语言模型的本地部署正成为热门需求但安装流程和工具组合常让新手却步。这份PDF教程面向开发者、研究者和普通用户系统演示了DeepSeek R1在本地从零到可用的完整路径先安装开源工具Ollama并验证环境再根据内存配置选择7B/13B/33B等版本的模型通过命令行完成拉取随后引入Cherry-Studio图形界面逐步说明注册、API密钥创建与模型配置免除命令行操作的不便最后讲解本地知识库的新建、文件导入及问答时切换知识库的方法实现基于自有资料的定制化回答。教程配有操作截图与步骤拆解并强调本地部署所带来的数据隐私与离线可用优势。资源为单个PDF文档体积1.46MB已有2034人学习下载适合希望快速搭建个人大模型与知识库的入门及进阶学习者。1. DeepSeek R1 本地部署谁在真正跑你的模型先把这个搞清楚拿到这份《DeepSeek R1 本地部署及搭建本地知识库完整教程》的人大概率是冲着两件事来的一是把 DeepSeek R1 装到自己电脑上二是让模型能回答自己文档里的内容。但教程真正动手之后你会发现最卡人的不是 Ollama 安装而是后面那个「API 密钥」——很多人在这一步被绕晕配完之后以为自己用的是本地模型实际上请求全跑到了云端 API 上。这篇文章把完整链路拆开讲Ollama 负责本地推理DeepSeek R1 是模型本体Cherry-Studio 是对话界面本地知识库就是 RAG 那套东西。适合手里有 8GB 内存以上电脑、想离线用模型或搭私人文档问答的人照着一步步做能少走不少弯路。2. Ollama 安装与验证为什么本地大模型都爱拿它当底座2.1 Ollama 解决了什么问题先搞清楚一个事没有 Ollama 之前本地跑大模型是一件很劝退的事。你需要自己处理模型文件的下载和格式转换通常是一堆 GGUF 文件、推理框架的依赖Python 环境、PyTorch、CUDA、显存和内存的调度还要自己去写一个能调用模型的服务接口。这一套下来光是搭环境就能消耗掉大半天而且翻车概率极高。Ollama 做的事情就是把上面这些都封装掉。它把模型仓库、下载器、推理进程、API 服务打包成了一个开箱即用的工具安装完之后一条命令拉模型一条命令开对话服务默认监听在本机的 11434 端口对外暴露一个 REST 接口。这意味着任何能发 HTTP 请求的程序都可以接上它——Cherry-Studio 也好Open WebUI 也好甚至你自己写个几百行的 Python 脚本都能把 Ollama 当成后端推理服务来用。这也是为什么很多想搭本地知识库的人会先搜「ollama langchain chroma 如何搭建本地知识库」这种组合因为 Ollama 已经把最难的模型推理部分解决了剩下的工作就只是「文档处理 向量检索」这一层。本教程选择 Ollama 作为底座是最省事、也是社区生态最成熟的路径。2.2 安装步骤与命令行验证安装本身没什么技术含量从官网下载 OllamaSetup.exe双击一路下一步。安装完成后 Ollama 会注册成 Windows 服务并开机自启同时往系统里装一个ollama命令行工具。验证是否装成功打开 PowerShell 或 CMD执行下面两条命令ollama --version ollama list第一条命令输出版本号第二条命令列出本地已经下载的模型列表。刚装完的时候ollama list会是一个空列表或者只显示一个空表头这都正常说明服务已经能正常通信了。如果你看到ollama list报错提示无法连接服务别急着重装先看任务管理器里有没有 Ollama 的进程在跑多半是服务没起来。这里有个细节值得注意ollama命令本质上是一个「客户端」真正的推理服务是后台那个常驻进程。也就是说命令行工具和服务是分开的你在终端里敲命令它去连本机的后台服务。这种设计的好处是就算你把命令行窗口关了已经下载好的模型也不会丢下次打开还能继续用。2.3 安装之后确认服务正常除了命令行验证我更习惯直接探测一下服务端口。Ollama 的默认端口是 11434你可以用下面这个命令确认端口有没有在监听netstat -ano | findstr 11434如果能看到一条 LISTENING 的记录说明 Ollama 服务已经在后台运行了。另外一个更直观的验证方式是打开浏览器访问http://localhost:11434如果服务正常页面会显示一行类似Ollama is running的提示文字。这一步建议别跳过。因为后面配置 Cherry-Studio 或者自己写代码接 Ollama 的时候所有连接都指向这个 11434 端口。端口不通后面全是白搭。我在实际帮人排查的时候发现「模型装好了但某个前端连不上」的问题十次里有七八次根本不是模型的问题而是这个服务压根没起来或者被安全软件拦了端口。3. DeepSeek R1 选型与命令行对话8GB 内存到底能跑多大3.1 版本怎么选模型参数和硬件门槛的真实关系教程里给了一个很直接的内存对照表我来整理一下模型参数量最低 RAM 要求适合场景7B8 GB入门体验普通办公本可跑13B16 GB效果明显更好适合认真用33B32 GB接近满血体验适合高配机器这个表的核心逻辑是参数越多的模型推理时需要加载到内存里的权重数据就越大内存不够就会导致加载失败或者速度慢到不可用。不过这里有一个容易被新手误解的地方如果你有独立显卡实际瓶颈是显存VRAM而不是系统内存。Ollama 的常见做法是优先把模型加载到显存里显存不够再往内存里放一部分。所以同样是跑 7B 模型一块 8GB 显存的显卡会比纯靠内存的机器快非常多。教程里用 RAM 作为参考口径是为了覆盖更多没有独显的场景这是保守但稳妥的写法。另外注意一下教程里同时出现了 7B 和 8b 两种写法。实际上 Ollama 模型库里 DeepSeek R1 的 tag 是按参数档位分的有更小的档位适合低配机器也有更大的档位需要更强的硬件。选型时以 Ollama 官方模型库页面上列出的 tag 为准不要看到数字相近就乱下。3.2 pull 与 run安装模型和跑对话的完整命令安装 DeepSeek R1 模型本质上是从 Ollama 的模型仓库拉取权重到本地。教程里说「复制后面对应的命令粘贴到命令行执行」实际就是下面这两条# 只下载模型不进入对话 ollama pull deepseek-r1:8b # 下载并直接进入对话模式 ollama run deepseek-r1:8bpull是下载模型的命令适合你只想先把模型备好、稍后再用的情况。run是「拉到就开聊」的组合命令——如果本地还没有这个模型它会先自动下载下载完成后直接进入交互式对话。下载过程会显示进度条看到success字样就表示模型已经到位。deepseek-r1:8b这里的冒号后面是模型的 tag也就是参数档位。如果你不加 tag直接敲ollama run deepseek-r1Ollama 会拉取默认档位的模型有可能拉到比你预期大得多的版本直接把内存吃爆。这是我见过最频繁的选型翻车点建议每次拉模型都明确写清 tag。进入对话模式后终端会出现一个提示符在这里输入问题回车就能得到回复。退出对话用/bye或者按 Ctrl D。中途想看看本地到底装了几个模型随时可以另开一个终端执行ollama list。3.3 命令行对话的边界能跑但难受命令行对话模式的功能非常原始没有历史会话管理、没有上下文长度可视化、长回答会直接把整个终端滚屏刷掉中文输入在某些终端环境下还会出现乱码。最难受的是它没有办法做「带知识库的问答」——你问它什么它就只能凭模型本身的知识回答你的私有文档它一概不知。所以教程把 Cherry-Studio 放在第三步是合理的。命令行对话的意义在于验证「模型真的能跑」而不是作为日常使用界面。我在这一步的建议是第一次跑通之后随便和它聊两句「用一句话解释什么是 RAG」这种级别就行确认回复速度在你的机器上可以接受然后马上进入下一步装 Cherry-Studio。别在命令行里耗太久那不是正经生产力场景。4. Cherry-Studio 界面化把本地模型挂进对话框再挂上知识库4.1 注册与 API 密钥为什么本地模型还要一个云端账号这是整套教程里最容易产生误解的一步。教程原文让你去硅基流动官网注册账号然后在 Cherry-Studio 里创建 API 密钥、配置模型。很多人到这里就懵了我不是本地部署吗为什么还要注册一个云端平台的账号原因在于 Cherry-Studio 本身的定位。它是一个「多模型客户端」本身不提供模型算力它需要连接一个「模型服务商」来获得模型。教程里默认选的模型服务商是硅基流动这是一个提供在线模型 API 的平台。你配置好 API 密钥后Cherry-Studio 会把你的问题发给硅基流动的服务器由他们那边跑模型再把结果返回给你。也就是说如果严格按照教程默认配置走Cherry-Studio 里用的其实是硅基流动的在线 API 推理不是你自己电脑上那个 Ollama 跑出来的结果。教程里说「这个时候已经使用本地部署的 deepseek 模型」这句话严格来说是不准确的——除非你在 Cherry-Studio 里把模型服务商从 SiliconFlow 换成 Ollama让对话请求走http://localhost:11434这个本地地址那才是真正意义上的本地部署。所以操作上有两条路线可以选路线 A按教程走注册硅基流动拿 API 密钥用在线 API 跑模型。优点是速度快、不吃本地性能缺点是必须联网本质上是云端服务。路线 B纯本地在 Cherry-Studio 的模型服务商里选择 Ollama地址填http://localhost:11434模型名填deepseek-r1:8b这样本地已装的 tag。完全离线可用但性能取决于自己电脑。如果你下载这份教程的初衷是「离线使用」和「数据不出本机」那你应该走路线 B教程里注册硅基流动的步骤可以跳过。如果你只是想要一个界面好看的 DeepSeek 聊天工具路线 A 也完全够用。这个纠偏很重要建议先在脑子里把这个链路理清楚再开始配置。4.2 配置模型与开始对话两种接入方式的落地步骤我分别把两种方式的操作步骤写出来以教程用的 Cherry-Studio 0.9.19 为例。方式一接硅基流动在线 API打开硅基流动官网用手机号注册并登录。进入控制台找到「API 密钥」页面创建一个新密钥创建后立即复制保存。这个密钥只显示一次丢了只能重新生成。打开 Cherry-Studio进入设置 → 模型服务商找到 SiliconFlow把你复制的密钥粘贴进去。在模型列表里添加你需要的模型模型 ID 按硅基流动控制台里显示的完整标识填DeepSeek R1 在平台上通常是deepseek-ai/DeepSeek-R1这一类的格式。回到对话页面在顶部模型选择器里切到你刚添加的模型开始对话。方式二接本地 Ollama打开 Cherry-Studio进入设置 → 模型服务商找到 Ollama如果没找到就检查 Cherry-Studio 版本0.9.19 是内置了 Ollama 提供商选项的。API 地址填http://localhost:11434。点击「获取模型列表」或手动填写模型名填本地已下载的 tag比如deepseek-r1:8b。保存后在对话页面切换到这个本地模型。两种方式配完后都能对话唯一看得见的区别就是方式二拔掉网线还能聊方式一断网必挂。建议配完后立刻做一个断网测试确认你实际走的是哪条链路别稀里糊涂配完就以为万事大吉。4.3 搭建本地知识库RAG 流程分解与操作步骤本地知识库本质上就是 RAG检索增强生成。ChatGPT 类产品被吐槽最多的点就是「它不知道我知道的东西」RAG 的解决思路是在模型回答问题之前先从你的文档里检索相关内容把这些内容拼到问题后面让模型基于这段「上下文」作答。Cherry-Studio 把这条链路做成了图形界面你不需要自己搭向量数据库。整个流程拆开看是这样文档读取把你上传的 PDF、Word、TXT 解析成纯文本。文本切块把长文档切成一段一段的常见的做法是一段控制在几百字左右块与块之间留一些重叠避免上下文被切断。向量化把每一段文本通过 embedding 模型转换成向量。向量存储与检索用户提问时把问题也转成向量去库里找最相似的几个片段。生成回答把检索到的片段拼进 prompt让模型结合这些片段生成回答。在 Cherry-Studio 里的操作就三步进入知识库管理页新建一个知识库。在知识库里添加文件选你本地的 PDF 或 Word 文档。回到对话页面在输入框上方的工具区勾选你新建的知识库然后正常提问。这里有一个关键提示知识库生效有一个前提就是「勾选」那个动作。很多人添加完文件就跑去提问模型给出的回答和没加知识库时一模一样就是因为对话的时候知识库没有被选中。另外embedding 模型通常也需要在设置里单独配置。如果你选的是在线 API 服务商embedding 一般也走在线接口这会导致知识库功能依赖网络如果你用的是本地 Ollama则需要一个本地可用的 embedding 模型。相比 langchain chroma 那种完全自己动手的方案Cherry-Studio 的局限是定制化程度低——你不能控制文本切块的具体算法也看不到自己文档被切成了多少个块。但它的优势在于足够快从零到跑通整个知识库问答只需要十几分钟适合先验证「带知识库的问答」这件事到底适不适合自己的工作流。5. 避坑与常见问题哪些坑我替你踩过了现象原因解决执行ollama run后模型加载到一半就退出或者报内存不足选择的模型参数档位超出本机 RAM/显存承载能力改用更小的 tag如从 33b 降到 8b关掉浏览器里一堆占内存的标签页再试Cherry-Studio 配置完 API 密钥后一直转圈报 401 或 403密钥复制多了空格或换行模型 ID 填成了不存在的标识去硅基流动控制台重新生成密钥粘贴时确认首尾没有空格模型 ID 以控制台展示的完整标识为准配好之后拔掉网线就不能对话和「本地部署」预期不符使用的是硅基流动在线 API请求走的是云端服务器在 Cherry-Studio 的模型服务商里切换为 Ollama地址填http://localhost:11434用本地已下载的模型知识库添加了文件模型回答却完全没有引用文档内容对话时没有勾选知识库或 embedding 模型没有配置好每次提问前在输入框上方勾选对应知识库到设置里检查 embedding 模型是否有可用配置Windows 终端里粘贴命令出现乱码或命令被截断PowerShell 的换行和剪贴板编码问题粘贴前先输入cmd切到传统命令提示符或把命令手动分行逐条执行这五个坑里前两个是硬件和配置层面的后三个都指向同一个问题——「链路认知不清楚」。你怎么理解本地部署这条链路决定了你配出来的是一个真正离线的本地 AI还是一个套了本地客户端的云端 API。我见过最多的翻车现场是电脑配置一般模型选大版本Ollama 直接崩溃然后转头去怪教程不对。但真正该背锅的是选型——RAM 8GB 的机器去拉 33B 模型这本身就是不可能完成的任务不是工具的问题。另外还有一个小细节值得提很多人配 Cherry-Studio 时模型服务商里明明有 Ollama 选项却视而不见因为在注册硅基流动之后默认就是走在线 API。如果你更看重数据安全要的就是教程标题里「本地」两个字那我建议一开始就别注册硅基流动直接走 Ollama 提供商少走一段冤枉路。6. 验证你是不是真的在本地跑模型拔网线测一次配置完整个链路之后我强烈建议做一个十秒钟就能做完的验证——拔网线。具体操作先确认ollama list里确实有你已经下载的模型然后把电脑的 Wi-Fi 或网线断开接着在 Cherry-Studio 里切换到 Ollama 提供商对应的模型输入一个问题。如果回答正常出来说明模型确实在本地跑如果报错或者转圈超时说明你用的还是在线 API。这个方法虽然简单但能一针见血地暴露你配置的真正链路。从那以后我每次帮别人装这套环境都会强制走一遍这个断网测试顺便还会看一下任务管理器里 GPU 和内存的占用曲线——模型回答期间如果有明显的算力占用波动那就是本地推理的实锤比任何配置截图都可信。日常使用中还有几个相关的习惯值得养成换模型之前先执行ollama list看清本地已有模型想确认当前哪个模型正被加载用ollama ps查看驻留进程Windows 下 Ollama 的日志目录通常在%LOCALAPPDATA%\Ollama下面资源管理器的地址栏直接粘贴这个路径就能看到报错时翻日志比反复重新安装有效得多。最后提醒一句先在小档位模型上把整个链路跑通再考虑上大模型。我用 8B 级别的模型验证完流程才敢在另一台 32GB 内存的机器上升级到 33B 档位这种「小步验证、再上规模」的做法帮我省下了大量排错时间。希望帮到你。本文还有配套的精品资源点击获取