ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Claude Code Router 模型路由完整指南:一个本地网关管住调度、降级与多 Key 轮换

Claude Code Router 模型路由完整指南:一个本地网关管住调度、降级与多 Key 轮换 Claude Code Router 模型路由完整指南一个本地网关管住调度、降级与多 Key 轮换【免费下载链接】claude-code-routerOne local control plane for every AI agent: route across models, fuse new capabilities, orchestrate tools, and stay fully in control.项目地址: https://gitcode.com/GitHub_Trending/cl/claude-code-routerClaude Code RouterCCR是一个运行在本地的模型路由网关它给 Claude Code、Codex 等 AI 客户端提供统一的本机端点再按你定义的路由规则把请求调度到 OpenRouter、DeepSeek 等上游供应商的具体模型上同时负责失败重试、自动降级、多 Key 轮换和请求成本观测。如果你手里维护着多个供应商的 Key或者想让不同任务分层使用模型这篇指南带你从零把它搭起来。第一个请求如何接进本地网关npm CLI 要求 Node.js 22 或更高版本先用node -v确认环境再全局安装npm install -g musistudio/claude-code-router ccr uiccr ui会拉起后台服务并自动打开浏览器管理界面没有桌面环境时改用ccr ui --no-open需要常驻托管时用ccr serve --no-open。如果你倾向容器化运行也可以克隆仓库后执行git clone https://gitcode.com/GitHub_Trending/cl/claude-code-router cd claude-code-router docker compose up -d --build注意区分两个端口3458是管理界面端口3456才是模型网关端口客户端要配置的是后者。接下来添加 OpenRouter 供应商在供应商页面点添加预设列表里选中 OpenRouter无需手填 API 地址填入以sk-or-v1-开头的密钥再在模型列表中勾选要暴露的模型目录里没有的模型 ID 也可以手动补上。随后用检测连通性对个别模型发一次真实请求确认地址、密钥、协议和模型名都没问题。注意连通性检测是真实计费的只勾需要确认的模型别一次全量检查。供应商就绪后到 API 密钥页面创建一个 CCR 客户端 Key把客户端的 base URL 指向http://127.0.0.1:3456。注意这个客户端 Key 与发给上游的供应商 Key 是两套东西别混淆。验证点执行curl http://127.0.0.1:3456/health返回 200 说明网关在运行再发一个最小模型请求到日志页面确认请求模型、最终命中的供应商与模型、状态码和耗时都如实记录。到这里第一个请求就跑通了。批量任务如何自动走便宜模型CCR 的路由分两层。内置路由负责识别 Claude Code 与 Codex 的请求客户端没有显式选择可识别模型时请求会落到 Agent 配置里的默认模型。自定义规则在路由页面的规则列表中维护按列表顺序匹配第一条命中的启用规则生效。一条规则由三部分组成条件来源可选request.header或request.body配合、starts with、contains deep等操作符例如当请求头x-client-name等于batch-job改写最常用的一行是把request.body.model设置为供应商/模型选择器也可以改 temperature 等任意 body 字段失败时这条规则自己的降级策略会覆盖页面顶部的默认设置。由此可以实现成本/性能分层批量摘要、日志整理类请求命中后改写到低价模型交互编码请求保持旗舰模型。普通条件不够用时规则类型可以切换为 Node.js 脚本在沙箱里读取完整请求做灰度分流、外部策略查询等动态决策完整示例见官方路由文档。一个进阶玩法在模型页面为每个模型填写 Description适合什么任务、速度和成本如何。CCR 会把这些说明注入 Claude Code 的 Agent/Task/Workflow 工具说明客户端派生子代理时自行选模并携带标签CCR 据此把派生请求路由到对应模型。效果是主对话走强推理模型后台搜索、摘要子任务自动走便宜快模型全程无需人工干预。验证点加好规则后带一个带标签的请求头发出请求到日志页面确认它被改写到了你指定的低价模型。⚡ 主模型限流时如何自动切备胎每条规则和全局默认失败处理都有三种模式模式行为适用场景off只打当前模型失败即报错无需兜底的简单链路retry同模型重试retryCount次上游偶发抖动model-chain失败后按顺序尝试备用模型列表主模型限流/宕机时自动切备选的生产场景建议至少为关键工作流配置一条模型链例如OpenRouter/旗舰模型 → OpenRouter/备用模型让单点故障不再阻塞开发。验证点故意发一个会失败的请求比如指向暂时不可用的模型到日志页面观察它是否按顺序落到了备用模型上能落到就说明链路已生效。多把 Key 如何轮换而不触发风控OpenRouter 余额分散在几个账号、或团队共用多把 Key 时在供应商高级设置里展开凭据池每条 Key 可设名称、启用开关、优先级数字越小越优先、权重以及本地限额 JSON如{rpm: 60, tpm: 100000}。达到窗口上限的 Key 会被自动跳过请求转而同供应商的其他 Key。这比手动换 Key 稳得多也避免某一把 Key 提前触发供应商侧风控。验证点配置生效后观察日志页面某把 Key 达到限额后后续请求应自动落到另一把 Key 上工作流不报错。这个月各模型花了多少CCR 的请求日志记录每个请求的解析路由、耗时、token 用量与成本估算账号面板则持续刷新 OpenRouter 等供应商的余额与用量。日常调优的节奏可以很简单每周翻一次日志找出实际高频命中的模型组合如果某类请求稳定走旗舰模型但任务并不需要就给它们加一条条件规则改写到性价比更高的模型备用模型链则定期用连通性检测确认可用避免降级时才发现备胎是空的。遇到这些现象先查什么现象先查什么/health返回 502尚未配置任何供应商或模型属预期行为补全供应商后再试上游返回认证错误供应商 Key 是否与 API 地址匹配客户端是否误把上游 Key 当成 CCR 客户端 Key路由规则不生效规则是否启用规则顺序先命中先生效改写目标是否为已配置的供应商/模型请求超时默认 API 超时为 600000 毫秒通常不是超时本身先检查网络与代理配置某把 Key 频繁被跳过凭据池限额rpm/tpm是否过紧或该 Key 在上游已限流更多安装与启动细节可参考安装与启动指南。全部配置完成后回到服务页面确认网关处于运行中。最终你手里会有一个所有客户端只认的本机端点、一套按场景分层的模型调度规则、一套自动降级与 Key 轮换机制以及一份随时可查的成本账单。从今往后一个请求落到旗舰模型还是低价模型不再取决于你的临场记忆而是由规则决定。【免费下载链接】claude-code-routerOne local control plane for every AI agent: route across models, fuse new capabilities, orchestrate tools, and stay fully in control.项目地址: https://gitcode.com/GitHub_Trending/cl/claude-code-router创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表