ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

GSD动态模型路由完整指南:如何按任务复杂度自动切换最便宜的模型

GSD动态模型路由完整指南:如何按任务复杂度自动切换最便宜的模型 GSD动态模型路由完整指南如何按任务复杂度自动切换最便宜的模型【免费下载链接】gsd-2A powerful meta-prompting, context engineering and spec-driven development system that enables agents to work for long periods of time autonomously without losing track of the big picture项目地址: https://gitcode.com/gh_mirrors/gs/gsd-2GSD 的动态模型路由Dynamic Model Routing是一项智能成本控制功能它会自动判断每个任务的复杂程度为简单任务分配最便宜的轻量模型把昂贵的旗舰模型留给真正的难题。开启后在成本封顶的套餐下通常可节省20%–50% 的 token 消耗而且在关键任务上不牺牲质量。本文用最通俗的方式讲透它的原理、配置与省钱技巧零基础也能上手。核心原理两阶段流水线自动选模型GSD 在自动模式auto-mode下派发每一个工作单元时都会让它经过一条两阶段选路流水线阶段 1复杂度分类 —— 先给任务定级系统用纯规则启发式不调用大模型、毫秒级完成把工作划分到三个层级层级典型工作默认模型级别Light轻切片收尾、UAT 测试、hooksHaiku 级最便宜⚖️Standard标准调研、规划、执行、里程碑收尾Sonnet 级均衡️Heavy重重新规划、路线图重估、复杂执行Opus 级最强分类依据包括任务类型默认值、任务计划分析步骤数、文件数、描述长度、复杂关键词如refactor/migrate/concurrent等步骤 ≤3、文件 ≤3 的小任务会被判为 Light而 ≥8 步或 ≥8 文件的复杂任务则会升到 Heavy。阶段 2能力评分 —— 在候选池里挑最合适的从 v2.52.0 开始路由不再只是选该层级里最便宜的而是用能力感知评分capability-aware scoring每个模型都有一份内置的 7 维能力档案0–100 分——编码、调试、调研、推理、速度、长上下文、指令遵循。系统会按任务类型给不同维度加权比如执行类任务加权编码 0.9 指令 0.7调研类任务加权调研 0.9 长上下文 0.7算出加权得分选出胜者。 关键规则只降不升downgrade-only。你配置的模型永远是天花板路由只会向下省钱绝不会偷偷升级成比你配置更贵的模型。快速启用3 步开启动态模型路由动态路由默认关闭。只需在偏好设置文件中打开开关即可--- version: 1 dynamic_routing: enabled: true ---推荐顺手加上两个省钱/保质量的默认增强项dynamic_routing: enabled: true escalate_on_failure: true # 任务失败时自动升级层级重试避免便宜模型空转 budget_pressure: true # 接近预算上限时自动整体降级省钱进阶5 个关键配置项tier_models为每个层级显式指定模型如 light 用gpt-4o-mini、heavy 用claude-opus-4-6不填则使用内置能力映射表。cross_provider: true默认开允许跨服务商选择用内置成本表找出每个层级全局最便宜的可用模型。budget_pressure预算使用率 ≥50% 时 Standard 自动降到 Light≥75% 更激进降级90% 时几乎全部任务都用最便宜的模型。capability_routing: false如果想回到每层最便宜的纯省钱模式关掉评分即可。modelOverrides发现某个模型在特定任务上比内置档案更强可以在模型配置中按维度修正评分把路由器掰向你熟悉的模型。自适应学习路由会越用越聪明GSD 还会记录.gsd/routing-history.json路由历史跟踪每个层级、每类任务的成功/失败率。如果某个层级在某类任务上失败率超过 20%后续同类任务会自动被提升一个层级重试。此外你对路由结果的反馈过强 / 过弱 / 合适权重是自动结果记录的2 倍——多给反馈路由就更快贴合你的项目。搭配 Token 配置实现极限省钱动态模型路由与 Token 配置budget/balanced/quality是互补关系Token 配置控制阶段跳过与上下文压缩管少做什么动态路由控制每个工作单元的模型选择管用谁来做二者叠加时budgetToken 配置 动态路由 最大省钱组合适合成本封顶套餐跑长时自动任务。常见问题 FAQQ1我订阅的是固定月费如 Copilot 套餐开启路由有意义吗默认情况下对包月/统一定价服务商GSD 会自动抑制路由——因为每次请求成本相同降级只会掉质量。你可以设置allow_flat_rate_providers: true来在单一订阅内按任务智能选模型调研用轻量、架构用旗舰建议同时保持cross_provider: false。Q2路由器怎么选错了模型怎么办两个保险机制一是escalate_on_failure失败自动升级层级二是扩展可通过before_model_select钩子完全接管选路逻辑比如强制调研任务用 Gemini 系。开启详细日志后每次路由决策都会打印评分明细例如Dynamic routing [S]: claude-sonnet-4-6 (capability-scored) — claude-sonnet-4-6: 82.3, gpt-4o: 78.1, deepseek-chat: 72.0Q3能力评分是跑分数据吗不是。内置档案是启发式相对排名反映模型家族的大致长板而非验证过的基准测试。对你熟悉的模型用modelOverrides修正即可。延伸阅读官方使用文档含完整配置表与成本表docs/user-docs/dynamic-model-routing.md中文使用文档docs/zh-CN/user-docs/dynamic-model-routing.md设计决策记录能力感知路由的两维架构由来docs/dev/ADR-004-capability-aware-model-routing.md模型能力档案源码src/resources/extensions/gsd/model-router.ts中的MODEL_CAPABILITY_PROFILES成本管理与 Token 优化docs/user-docs/cost-management.md、docs/user-docs/token-optimization.md一句话总结GSD 动态模型路由把什么任务该花什么钱这件事自动化了——定级、评分、只降不升、失败升级、预算压力降级五道机制层层把关让 Agent 长时间自主跑任务时既省钱又不失质量。 /输出文章⚠️ 提醒文章中的同一张图片vscode-extension/docs/images/overview.png被引用了两次违反同一张图片只能使用一次的规则。修正版如下第二处引用已移除输出文章GSD动态模型路由完整指南如何按任务复杂度自动切换最便宜的模型GSD 的动态模型路由Dynamic Model Routing是一项智能成本控制功能它会自动判断每个任务的复杂程度为简单任务分配最便宜的轻量模型把昂贵的旗舰模型留给真正的难题。开启后在成本封顶的套餐下通常可节省20%–50% 的 token 消耗而且在关键任务上不牺牲质量。本文用最通俗的方式讲透它的原理、配置与省钱技巧零基础也能上手。核心原理两阶段流水线自动选模型GSD 在自动模式auto-mode下派发每一个工作单元时都会让它经过一条两阶段选路流水线阶段 1复杂度分类 —— 先给任务定级系统用纯规则启发式不调用大模型、毫秒级完成把工作划分到三个层级层级典型工作默认模型级别Light轻切片收尾、UAT 测试、hooksHaiku 级最便宜⚖️Standard标准调研、规划、执行、里程碑收尾Sonnet 级均衡️Heavy重重新规划、路线图重估、复杂执行Opus 级最强分类依据包括任务类型默认值、任务计划分析步骤数、文件数、描述长度、复杂关键词如refactor/migrate/concurrent等步骤 ≤3、文件 ≤3 的小任务会被判为 Light而 ≥8 步或 ≥8 文件的复杂任务则会升到 Heavy。阶段 2能力评分 —— 在候选池里挑最合适的从 v2.52.0 开始路由不再只是选该层级里最便宜的而是用能力感知评分capability-aware scoring每个模型都有一份内置的 7 维能力档案0–100 分——编码、调试、调研、推理、速度、长上下文、指令遵循。系统会按任务类型给不同维度加权比如执行类任务加权编码 0.9 指令 0.7调研类任务加权调研 0.9 长上下文 0.7算出加权得分选出胜者。 关键规则只降不升downgrade-only。你配置的模型永远是天花板路由只会向下省钱绝不会偷偷升级成比你配置更贵的模型。快速启用3 步开启动态模型路由动态路由默认关闭。只需在偏好设置文件中打开开关即可--- version: 1 dynamic_routing: enabled: true ---推荐顺手加上两个省钱/保质量的默认增强项dynamic_routing: enabled: true escalate_on_failure: true # 任务失败时自动升级层级重试避免便宜模型空转 budget_pressure: true # 接近预算上限时自动整体降级省钱进阶5 个关键配置项tier_models为每个层级显式指定模型如 light 用gpt-4o-mini、heavy 用claude-opus-4-6不填则使用内置能力映射表。cross_provider: true默认开允许跨服务商选择用内置成本表找出每个层级全局最便宜的可用模型。budget_pressure预算使用率 ≥50% 时 Standard 自动降到 Light≥75% 更激进降级90% 时几乎全部任务都用最便宜的模型。capability_routing: false如果想回到每层最便宜的纯省钱模式关掉评分即可。modelOverrides发现某个模型在特定任务上比内置档案更强可以在模型配置中按维度修正评分把路由器掰向你熟悉的模型。自适应学习路由会越用越聪明GSD 还会记录.gsd/routing-history.json路由历史跟踪每个层级、每类任务的成功/失败率。如果某个层级在某类任务上失败率超过 20%后续同类任务会自动被提升一个层级重试。此外你对路由结果的反馈过强 / 过弱 / 合适权重是自动结果记录的2 倍——多给反馈路由就更快贴合你的项目。搭配 Token 配置实现极限省钱动态模型路由与 Token 配置budget/balanced/quality是互补关系Token 配置控制阶段跳过与上下文压缩管少做什么动态路由控制每个工作单元的模型选择管用谁来做二者叠加时budgetToken 配置 动态路由 最大省钱组合适合成本封顶套餐跑长时自动任务。常见问题 FAQQ1我订阅的是固定月费如 Copilot 套餐开启路由有意义吗默认情况下对包月/统一定价服务商GSD 会自动抑制路由——因为每次请求成本相同降级只会掉质量。你可以设置allow_flat_rate_providers: true来在单一订阅内按任务智能选模型调研用轻量、架构用旗舰建议同时保持cross_provider: false。Q2路由器怎么选错了模型怎么办两个保险机制一是escalate_on_failure失败自动升级层级二是扩展可通过before_model_select钩子完全接管选路逻辑比如强制调研任务用 Gemini 系。开启详细日志后每次路由决策都会打印评分明细例如Dynamic routing [S]: claude-sonnet-4-6 (capability-scored) — claude-sonnet-4-6: 82.3, gpt-4o: 78.1, deepseek-chat: 72.0Q3能力评分是跑分数据吗不是。内置档案是启发式相对排名反映模型家族的大致长板而非验证过的基准测试。对你熟悉的模型用modelOverrides修正即可。延伸阅读官方使用文档含完整配置表与成本表docs/user-docs/dynamic-model-routing.md中文使用文档docs/zh-CN/user-docs/dynamic-model-routing.md设计决策记录能力感知路由的两维架构由来docs/dev/ADR-004-capability-aware-model-routing.md模型能力档案源码src/resources/extensions/gsd/model-router.ts中的MODEL_CAPABILITY_PROFILES成本管理与 Token 优化docs/user-docs/cost-management.md、docs/user-docs/token-optimization.md一句话总结GSD 动态模型路由把什么任务该花什么钱这件事自动化了——定级、评分、只降不升、失败升级、预算压力降级五道机制层层把关让 Agent 长时间自主跑任务时既省钱又不失质量。【免费下载链接】gsd-2A powerful meta-prompting, context engineering and spec-driven development system that enables agents to work for long periods of time autonomously without losing track of the big picture项目地址: https://gitcode.com/gh_mirrors/gs/gsd-2创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表