Local Deep Research 这个开源本地 AI 研究助手原文里拿一张 3090 跑 27B 模型做深度调研最后拿到 95.7 分。但作者也承认不是人人都有这个条件。换云端模型的话Key 走 TaoToken打开 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentlocal-deep-research 创建一把 Key再回到 Local Deep Research 设置页把模型 API 的 Base URL 改成 https://taotoken.net/api。同一套调研流程3090 跑不动的任务交给云端模型报告照样能出。1. Local Deep Research 的 3090 门槛27B 本地模型卡在哪1.1 原文那张 3090 跑 95.7 分的配置账原文把 Local Deep Research 定位成本地 AI 研究助手模型跑在自己机器上搜索、抓取、汇总、写报告都在本地完成。听起来很舒服但代价是显存。27B 级别的模型要在一张 3090 上跑起来需要量化、需要控制上下文长度还要给搜索和文档处理留出内存。作者最后拿到 95.7 分说明这套组合在特定评测集上确实能打但也等于把门槛写在了明面上你得先有一张 3090还得愿意折腾量化版本和推理参数。很多人卡住的地方不是不会装 Local Deep Research而是装完之后模型跑不动。加载 27B 模型时显存直接爆掉或者勉强加载后每生成一段就卡住深度调研还没开始机器先风扇狂转。这种情况下继续在本地模型上加量化等级报告质量会往下掉速度也不一定救得回来。1.2 显存不够时换云端模型比换显卡省事如果你只是偶尔跑深度调研为了一个 27B 模型去换 4090 或者加显存成本太高。更实际的做法是保留 Local Deep Research 的研究流程只把模型推理这一段切到云端。Local Deep Research 本身支持 OpenAI 兼容接口你可以在设置里把模型来源从本地 Ollama 改成远端 APIBase URL 和 Key 填对它就能用云端模型继续做搜索、总结和报告生成。这一步的关键是选一个稳定的 API 通道。TaoToken 提供统一 API 接入Base URL 固定填 https://taotoken.net/api模型 ID 按模型广场里的列表选。这样你不需要为每个模型单独维护一套 Key显存不够的时候切云端想省成本的时候切回本地小模型Local Deep Research 的调研任务不用重写。2. 给 Local Deep Research 换云端模型Key 为什么走 TaoToken2.1 统一 API 通道一把 Key 接多个模型Local Deep Research 的模型配置里通常会有 Provider、Base URL、API Key、Model 四个字段。Provider 选 OpenAI Compatible 或 Custom OpenAIBase URL 填 https://taotoken.net/apiAPI Key 填 YOUR_API_KEYModel 填模型广场里当时可用的模型 ID。这套写法的好处是你换模型只需要改 Model 字段Base URL 和 Key 都不用动。原文里本地模型换起来麻烦要重新拉模型、重新量化、重新测显存。切到云端之后Model 字段里换一个 IDLocal Deep Research 下一次调研就会用新模型。对于深度调研这种长任务你可以先用便宜模型做搜索和初筛最后总结再换更强的模型整个流程仍然在 Local Deep Research 里完成。2.2 先打开官网注册并创建 API Key准备材料只有两样一个可用的 TaoToken API Key一个从模型广场抄下来的模型 ID。打开 TaoToken 完成注册登录进控制台创建 API Key复制出来先存好。Key 一律写成 YOUR_API_KEY 占位符不要直接贴到公开的配置文件里。同时记下两个地址不要混用途地址注册、创建 Key、看模型广场、看用量https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentlocal-deep-research填进 Local Deep Research 的 Base URLhttps://taotoken.net/api注意 Base URL 末尾不要加 /v1也不要把带 UTM 的官网地址填进去。官网地址是给人点的API Base URL 是给程序拼路径用的两者混用会直接报 404。3. Local Deep Research 设置页改写Base URL 填 https://taotoken.net/api3.1 模型来源选 OpenAI 兼容打开 Local Deep Research 的 Web UI进设置页找模型或 LLM 配置。不同版本的菜单名可能不一样有的叫 Settings - LLM有的叫 Model Provider核心字段就那几个。把模型来源从 Ollama 或 Local 改成 OpenAI Compatible、Custom OpenAI 或 Remote API具体叫法以你部署的版本为准。改完之后页面一般会展开 Base URL、API Key、Model 三个输入框。Base URL 填 https://taotoken.net/apiAPI Key 填 YOUR_API_KEYModel 填你从模型广场复制出来的 ID。如果页面里还有 Temperature、Max Tokens 之类的参数保持默认或者按调研任务需要调不影响接入。3.2 填入 YOUR_API_KEY 和模型广场里的模型 ID模型 ID 不要凭记忆写也不要拿本地 Ollama 的模型名直接套。本地模型可能叫 qwen2.5:27b、llama3.1:70b云端模型 ID 是另一套命名。打开 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_end 看模型广场当时列出的 ID复制哪个就填哪个。如果填错Local Deep Research 发请求时会返回模型不存在的错误排查起来比 Base URL 填错更隐蔽。API Key 从控制台创建后直接复制注意不要带前后空格。有些工具的输入框会自动 trim有些不会多一个空格就是 401。填完先保存不要急着跑长任务下一步先用一次短请求验证。3.3 Docker 或 .env 部署的改法如果你不是通过 Web UI 配置而是 Docker 或源码部署Local Deep Research 一般会读项目根目录的 .env 或配置文件。把里面模型 API 的 base_url 改成 https://taotoken.net/apiapi_key 改成 YOUR_API_KEYmodel 改成模型广场里的 ID。变量名以你项目里的 .env.example 为准不要自己发明字段。改完重启 Local Deep Research 服务让新配置生效。如果容器里还留着旧的环境变量可能会覆盖配置文件重启后先在日志里确认它读到了新的 Base URL。日志里出现 taotoken.net/api 就说明配置已经进去了。4. 验证让 Local Deep Research 用云端模型跑一次深度调研4.1 先用模型对话页确认 Key配置保存后不要直接开一个长调研。先用同一把 Key 在 TaoToken 模型对话 里发一条测试消息确认模型 ID 和 Base URL 没填错。如果这里都报错Local Deep Research 里一定跑不通先解决 Key 和模型 ID 的问题。模型对话页能正常返回内容说明 Key 有效、模型 ID 存在、账户状态正常。接下来再回到 Local Deep Research用同样的模型 ID 发起调研。这一步相当于把变量分开验证避免在长任务里同时排查多个问题。4.2 在 Local Deep Research 发一个短调研任务选一个简单问题比如“总结最近三条关于本地 AI 的新闻”把调研深度调到最低让它跑一遍完整流程。观察日志里模型请求发往哪里如果看到 https://taotoken.net/api 开头的地址说明 Local Deep Research 已经走云端通道。如果仍然看到本地 Ollama 的地址说明设置没生效回去检查 Provider 是否保存成功。短任务跑通后再换一个稍长的深度调研问题。云端模型的速度取决于网络和模型负载但至少不会因为显存不足中途崩掉。报告生成过程中Local Deep Research 可能会多次调用模型每一次都走同一把 Key用量会在控制台累计。4.3 检查报告生成时走的是哪个模型深度调研结束后打开报告看看内容风格。不同模型写出来的总结结构不一样你可以从输出格式大致判断是否换成了目标模型。更准确的方法是去控制台看调用记录确认模型 ID 和调用次数。如果发现报告质量不对先检查 Model 字段是不是被旧配置覆盖了。本地模型和云端模型可以来回切。想省成本的时候把 Model 改回本地模型名Base URL 改回 Ollama 地址想跑大模型的时候再切回 https://taotoken.net/api。同一把 TaoToken Key 不用重新创建模型广场里换 ID 就行。5. 排障Base URL 和模型 ID 最容易填错的两个地方5.1 Base URL 填成官网地址或多了 /v1最常见的错误是把官网地址填进 Base URL。有人复制了 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_contentlocal-deep-research直接粘到 Local Deep Research 的 Base URL 输入框结果请求发到网页而不是 API返回 404 或一段 HTML。正确做法是填 https://taotoken.net/api末尾不带斜杠也不带 UTM 参数。另一个高频错误是画蛇添足加 /v1。Local Deep Research 或它背后的 OpenAI SDK 会自动拼接 /v1/chat/completions如果你在 Base URL 后面又写了 /v1最终路径会变成 /api/v1/v1/chat/completions同样 404。记住一个原则Base URL 只写到 https://taotoken.net/api后面的路径交给工具自己拼。5.2 模型 ID 从本地 Ollama 直接复制本地 Ollama 的模型名和云端模型 ID 不是一套。你在终端里 ollama list 看到的 qwen2.5:27b不能直接填到 Model 字段去请求云端。云端模型 ID 要去模型广场复制填错会返回模型不存在或无权访问。遇到这种报错先回模型广场核对 ID不要反复改 Base URL。还有一种情况是模型 ID 复制对了但账户里没有该模型的权限或者模型已经下架。以模型广场当时列表为准列表里没有的就不要写进配置。深度调研任务比较长开始之前先用短请求测一下模型可用性比跑到一半报错更省时间。5.3 Key 带了空格或用了旧 KeyAPI Key 复制时带空格、换行或者用了已经删除的旧 Key都会在 Local Deep Research 日志里留下 401。去控制台重新创建一个 Key复制后先粘到模型对话页测试确认能通再填进 Local Deep Research。如果同一个 Key 在模型对话页能用在 Local Deep Research 里不能用检查配置文件里是不是还有旧 Key 覆盖了新值。6. 换完云端模型后把 Key 和用量管起来6.1 去控制台看这次深度调研的用量这次 Local Deep Research 的深度调研跑完去控制台看一眼这把 Key 的调用记录https://taotoken.net/console/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentlocal-deep-research。重点看模型 ID、请求次数和 token 消耗确认云端模型确实在干活。如果发现某个模型用量特别高下一次调研可以换成更轻量的模型做初筛。控制台里还能管理 Key。如果你同时跑多个 Local Deep Research 实例可以给每个实例单独创建 Key方便区分用量。旧 Key 不用了就删掉避免泄漏后被别人拿去刷。6.2 长期跑调研的套餐选择偶尔跑一次深度调研按量用就行。如果你准备把 Local Deep Research 当成日常研究工具本地模型和云端模型混着用可以打开 Coding Plan 看套餐说明。Coding Plan 的额度、模型范围和计费方式以页面当时展示为准不要凭旧截图判断。想先试一条云端模型对话直接打开 模型对话。Key 创建入口在 控制台 API Keys。如果你后面还想把 Claude Code 这类编程工具也接到同一把 Key 上配置对照可以看 Claude Code 接入文档Base URL 仍然填 https://taotoken.net/api。