一个接口调用三个模型，我只用了一个反向代理

最近项目里接了三个模型——Qwen做长文本总结，DeepSeek做代码生成，千帆做特定领域问答。每个模型都有自己的SDK和鉴权方式。 最初的版本是前端直接分别调三个接口，代码散落在各种service里，切换模型要改业务代码。更烦的是计费——三个供应商的费用要分别算，月底对账很头疼。 后来我加了一层反向代理，整体架构变成了：前端→统一网关→模型路由表→供应商。 核心实现就三步： 1. 前端只调一个 /api/chat 接口，请求体里加一个 model 字段 2. 网关根据 model 字段查路由表，匹配供应商和真实endpoint 3. 做一个简单的协议适配层——OpenAI格式进来，千帆格式出去 Qwen的DashScope和DeepSeek的OpenAI兼容格式差异不大，主要是千帆需要先用API Key换access_token，这个token有两小时有效期。我在内存里做了个带过期时间的缓存，并发情况下用singleflight避免重复请求。 计费方面，在每个请求的响应拦截器里记录token使用量，按供应商的单价换算成人民币，写到独立的计费表。月底直接拉报表。 踩过的坑： - 千帆的流式返回和标准SSE有细微差异，content字段名不一样，需要额外做字段映射 - DeepSeek的token计数方式比较特别，同样一段中文比Qwen多算30%的token - 高峰期并发量大时，千帆的access_token刷新成为瓶颈，后来换了互斥锁+提前刷新解决了 这个方案的代码量不大，核心就一个路由表和两个适配器。但带来的收益很明显——切模型零代码改动，计费统一，新增供应商只需要加一行路由配置。 如果你也在做多模型接入，可以试试这个思路。