前言上一篇写了怎么把 GPT/Claude/Gemini/DeepSeek 收敛到一个 OpenAI 兼容网关里没看过的同学可以看我博客上一篇。接入只是第一步——真正让项目活下来的是成本控制。我的场景一个文档问答机器人 一个自动摘要服务 一些零散实验直连官方 API 的时候月账单在 ¥200 上下。做完这一轮优化后同样的调用量账单稳定在 ¥40 左右。本文把 5 个策略按性价比排序讲清楚每个都附可直接抄的代码。策略一模型分层路由省得最多值 60% 的降幅大部分 LLM 应用的请求其实是低难度任务格式化、摘要、分类、简单改写。用 GPT-4o 级别的模型跑这些任务纯属浪费。我的做法是按任务难度分三档档位任务类型模型选型思路轻量分类、抽取、格式转换、标题生成DeepSeek-V3 / 通义千问-max 级别主力摘要、常规问答、代码补全中档模型如 GPT-4o-mini 类 / DeepSeek旗舰复杂推理、Agent 规划、长文档分析GPT-4o / Claude / Gemini Pro 级别一个最小可用的路由器几十行就能跑from openai import OpenAI client OpenAI(api_keysk-xxx, base_urlhttps://api.rqu.cn/v1) ROUTE_TABLE { light: deepseek-chat, # 便宜档 main: gpt-4o-mini, # 主力档 heavy: claude-sonnet-4-5, # 旗舰档 } def route(task: str, text_len: int 0) - str: # 规则路由够用且零成本复杂场景可换成小模型打分路由 if task in (classify, extract, format): return ROUTE_TABLE[light] if text_len 50_000: # 长文本交给长上下文旗舰 return ROUTE_TABLE[heavy] return ROUTE_TABLE[main] def ask(task: str, prompt: str, **kw): model route(task, len(prompt)) return client.chat.completions.create( modelmodel, messages[{role: user, content: prompt}], **kw, )关键认知轻量任务的模型换档质量损失几乎无感但单价差 10~50 倍。我日志里 70% 的请求走的是轻量档。策略二盯住输出 tokens它在偷偷烧钱各家定价里输出 token 普遍是输入的 3~5 倍但很多应用的输出长得没必要给max_tokens设上限摘要任务设 300超了就截断重试别让它自由发挥让模型先给结构再展开先列要点每点不超过 20 字这种约束直接写进 prompt裁剪对话历史多轮场景别把完整 history 每次都塞进去超过 10 轮就做滑动窗口或摘要压缩。我见过有人一个请求带 3 万 tokens 的历史就为了问一句继续。resp client.chat.completions.create( modeldeepseek-chat, messages[{role: user, content: 总结以下文档输出不超过 5 个要点每点不超过 30 字}], max_tokens400, # 硬上限 )策略三上下文裁剪 Prompt 复用RAG 场景的常见浪费检索回来的 10 个 chunk 全塞进 prompt其实命中率最高的前 3 个就够。做法召回数量从 10 降到 3~5配合重排序rerankchunk 做 cleanliness——去掉页眉页脚、重复模板文字再入库固定的系统提示词几百 tokens每请求都在重复计费能精简就精简别把角色设定写成小作文。这一套下来单请求的输入 tokens 普遍能砍 40%~70%。策略四批处理与缓存能批量的不串行10 条独立摘要合成 1 个请求跑注意用分隔符防串味省掉 9 次重复的系统提示词开销热点问题做缓存机器人场景 30% 的请求高度相似按hash(prompt)做个 Redis 缓存命中直接返回。缓存的不是便宜而是免费。策略五渠道价差平台层的钱前面四个策略是少用还有一层是用的时候单价更低官方 API 按牌价走美元聚合网关走上游批发渠道折算下来同样 tokens 的成本大约是官方的 30%~50%我用 rqu.cn 的实际核算约 $1 ≈ ¥2国产模型在网关里同样有价差DeepSeek 这类本身便宜叠加后轻量档几乎可以忽略不计注意价差来自渠道不来自降智——模型 ID 和参数原样转发这跟某些低价但偷换小模型的套路是两回事判断方法是看响应里的模型回显和 token 用量是否与请求一致。效果汇总策略降幅贡献实施成本模型分层路由~60%半天输出控制 历史裁剪~15%一小时上下文裁剪~10%半天批量 缓存~10%视业务渠道价差叠加折算换个 base_url按顺序做前两个策略就能拿到 70% 以上的降幅。最后两句实话别为了省钱牺牲核心体验Agent 规划、复杂推理这些环节该用旗舰就用旗舰路由器省的钱是给这些环节回血的第三方网关 多一层信任成本敏感数据场景自行评估生产关键链路保留官方 fallback这是上篇说过的这里再强调一次。优化前后账单对比截图我就不放了涉及账户信息思路都在上面照着做就行。有问题评论区见。