1. 从测评到落地GLM-4-9B 在 Python 里到底怎么调如果你看过 Datawhale 那篇万字测评一大概率会对 GLM-4-9B 在中文翻译、逻辑推理、128K 长文本上的表现留下印象。但测评归测评真正要把它接进自己的 Python 项目时第一个卡点往往不是模型能力而是调用链路Key 怎么管、Base URL 填什么、模型名写哪个、返回结构怎么解析。这篇就聚焦这一件事——用 TaoToken 统一 Key把 GLM-4-9B 的 API 调用链路在 Python 环境里完整跑通。先说清楚 TaoToken 是什么、能做什么、适合谁。TaoToken 是一个面向开发者的模型 API 聚合与统一 Key 管理平台官网地址是 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API 入口是 https://taotoken.net/api 。它的核心价值在于你不需要为每个模型厂商单独申请 Key、单独记 Base URL、单独维护一套 SDK而是用一把统一 Key通过 OpenAI 兼容协议去调用包括 GLM-4-9B 在内的多种模型。适合谁适合已经读过测评一、想快速复现调用环节的开发者适合手里有多个模型要对比、不想被多套鉴权体系拖慢节奏的人也适合做 RAG、Multi-Agent 这类需要频繁切换模型的任务规划场景。我试过在同一个脚本里来回切模型如果每个厂商都单独配 Key光是环境变量就要维护一堆。用统一 Key 之后切换模型基本只改一个 model 字段。下面我会按「前置准备 → 可复制配置 → 完整调用 → 返回校验 → 排错」的顺序走一遍每一步都给到能直接粘贴的代码和参数。你不需要先读完测评一才能跟上但如果你已经知道 GLM-4-9B 支持 128K 上下文、26 种语言那理解后面的参数模板会更顺。需要提前说明的是本文只讲 API 调用链路本身不涉及任何网络接入方式的讨论。你只需要保证自己的 Python 环境能正常访问 https://taotoken.net/api 即可。整篇的代码都在 Python 3.9 下验证过依赖只有 openai 这个包没有其他隐藏依赖。2. 前置准备TaoToken 统一 Key 与 GLM-4-9B 模型 ID 的对应关系在写第一行代码之前先把三样东西确认清楚Base URL、API Key、Model ID。这三件套是后面所有配置的基础缺一个都会在请求时报错。很多人卡在 401 或者 model not found根源就是这三者没对齐。Base URL 固定为 https://taotoken.net/api 注意结尾没有 /v1也没有多余的斜杠。如果你用的是 openai 这个 Python 包它内部会自己拼接 /chat/completions所以你填的 base_url 就是上面这个。API Key 需要你登录 TaoToken 控制台在 API Keys 页面创建。创建入口在这里https://taotoken.net/console/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi_keysutm_campaignrewrite 。创建出来的 Key 通常以 sk- 开头复制后建议直接写进环境变量不要硬编码在脚本里。Model ID 这块要特别注意。GLM-4-9B 在不同平台上的命名可能略有差异在 TaoToken 上你需要在模型列表里确认它对应的准确 ID。常见写法是 glm-4-9b 或者带版本后缀的形式。如果你不确定可以先去模型对话页面手动选一次 GLM-4-9B观察请求里实际发出的 model 字段值https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_contentmodelsutm_campaignrewrite 。这一步看起来多余但能帮你省掉后面反复试错的十分钟。把这三件套整理成一张对照表方便你随时核对配置项取值获取位置Base URLhttps://taotoken.net/api固定无需申请API Keysk-xxxxxxxx控制台 API Keys 页面Model IDglm-4-9b以控制台为准模型列表 / 模型对话页环境变量建议这样设置Linux/macOS 下直接 exportWindows 下用 set 或者写进 .env 文件配合 python-dotenvexport TAOTOKEN_API_KEYsk-你的真实Key export TAOTOKEN_BASE_URLhttps://taotoken.net/api export GLM_MODEL_IDglm-4-9b注意不要把真实 Key 提交到 Git 仓库。如果你在团队里共享脚本用 .env.example 占位真实 .env 加进 .gitignore。到这里前置准备就完成了。接下来进入可复制配置环节我会给出一份完整的 Python 配置片段包含客户端初始化、请求参数模板和一次同步调用。你可以直接把这段代码存成 glm_call.py 运行。3. 可复制配置Python 客户端初始化与 GLM-4-9B 请求参数模板这一节给出一份可以直接运行的配置。核心是用 openai 包的 OpenAI 客户端把 base_url 指向 TaoTokenapi_key 读环境变量然后构造 messages 发起 chat.completions.create 请求。GLM-4-9B 支持标准的 system/user/assistant 角色也支持多轮对话所以 messages 就是一个列表。先看完整的配置片段。这段代码里我把模型 ID、温度、最大输出长度都抽成了变量方便你按场景调整。温度建议在 0.1 到 0.7 之间做翻译和代码解释时用低温度更稳做文案生成时可以适当调高。import os from openai import OpenAI client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlos.environ.get(TAOTOKEN_BASE_URL, https://taotoken.net/api), ) MODEL_ID os.environ.get(GLM_MODEL_ID, glm-4-9b) def call_glm(prompt: str, historyNone, temperature: float 0.3, max_tokens: int 1024): if history is None: history [] messages [{role: system, content: 你是一个严谨的中文技术助手。}] messages.extend(history) messages.append({role: user, content: prompt}) resp client.chat.completions.create( modelMODEL_ID, messagesmessages, temperaturetemperature, max_tokensmax_tokens, streamFalse, ) return resp如果你更习惯用配置文件而不是环境变量可以写一个 config.json路径放在项目根目录内容如下。注意这里的 base_url 和 model 字段要和前面三件套完全一致不要多写 /v1。{ base_url: https://taotoken.net/api, api_key_env: TAOTOKEN_API_KEY, model: glm-4-9b, default_temperature: 0.3, default_max_tokens: 1024 }读取配置的代码可以这样写这样切换模型时只改 JSON 里的 model 字段不用动 Python 逻辑import json with open(config.json, r, encodingutf-8) as f: cfg json.load(f) client OpenAI( api_keyos.environ[cfg[api_key_env]], base_urlcfg[base_url], ) resp client.chat.completions.create( modelcfg[model], messages[{role: user, content: 用一句话解释什么是长上下文推理。}], temperaturecfg[default_temperature], max_tokenscfg[default_max_tokens], )参数模板这块GLM-4-9B 常用的几个字段和含义如下表。你可以把它当成一个速查表调参时对照着改。参数类型建议值说明modelstringglm-4-9b必须与控制台一致messageslist见上支持 system/user/assistanttemperaturefloat0.1–0.7越低越稳定max_tokensint512–4096控制输出长度streamboolFalse先跑通再开流式top_pfloat0.9一般不用改提示如果你要做长文本任务比如把《红楼梦》前二十四回塞进去max_tokens 要留够同时注意输入长度本身也占 token。GLM-4-9B 支持 128K 上下文但实际可用长度受平台限制建议先用小文本验证链路再逐步加大。配置写好后先别急着跑长文本。用一句短 prompt 验证链路是否通这是最省时间的做法。下一节就做这件事并检查返回结构。4. 验证请求一次完整的 GLM-4-9B 调用与返回校验链路通不通跑一次就知道。这一节我们用最短的 prompt 发起一次同步请求然后把返回对象的各个字段打印出来确认 choices、message、content、usage 都在预期位置。很多人拿到返回后直接取 resp.choices[0].message.content如果前面配置错了这里会抛 IndexError 或者 AttributeError所以先完整打印结构更稳妥。先跑这段验证代码import os from openai import OpenAI client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlhttps://taotoken.net/api, ) resp client.chat.completions.create( modelglm-4-9b, messages[ {role: system, content: 你是一个简洁的技术助手。}, {role: user, content: 用一句话说明 GLM-4-9B 适合什么场景。}, ], temperature0.2, max_tokens256, ) print(id:, resp.id) print(model:, resp.model) print(finish_reason:, resp.choices[0].finish_reason) print(content:, resp.choices[0].message.content) print(usage:, resp.usage)正常返回时你会看到类似这样的输出结构。id 是一串请求标识model 回显你请求的模型名finish_reason 通常是 stopcontent 是模型生成的中文回答usage 里包含 prompt_tokens、completion_tokens、total_tokens 三个计数。id: chatcmpl-xxxxxxxx model: glm-4-9b finish_reason: stop content: GLM-4-9B 适合中文文本生成、专业论文翻译、逻辑推理以及长文本知识点提取等场景。 usage: CompletionUsage(prompt_tokens32, completion_tokens41, total_tokens73)拿到这个结果说明 Base URL、Key、Model ID 三件套全部对齐链路是通的。接下来做返回校验把关键字段断言一遍这样以后改配置时能第一时间发现回归。校验代码可以这样写assert resp.choices, choices 为空检查模型是否返回了内容 assert resp.choices[0].message.content, content 为空检查 max_tokens 是否过小 assert resp.usage.total_tokens 0, usage 异常检查请求是否真正到达服务端 print(校验通过GLM-4-9B 调用链路正常)如果你想进一步验证多轮对话可以把上一轮的 assistant 回复追加进 history再发一次请求。GLM-4-9B 对多轮上下文的保持能力在测评里也有体现这里用两轮对话快速验证history [ {role: user, content: GLM-4-9B 支持多长上下文}, {role: assistant, content: GLM-4-9B 支持 128K 长上下文推理。}, ] resp2 client.chat.completions.create( modelglm-4-9b, messageshistory [{role: user, content: 那它支持多少种语言}], temperature0.2, max_tokens128, ) print(resp2.choices[0].message.content)如果这一步也能正常返回说明你的调用链路已经可以支撑测评里那些翻译、代码解释、长文本问答的复现了。接下来把常见的报错整理一下方便你遇到问题时快速定位。5. 本篇常见错排查401、local proxy failed、reading choices、OAuth 报错怎么解调用链路跑通之前报错是常态。这一节把最常见的几类错误和对应解法列出来你对照自己的报错信息找就行。重点看 401、local proxy failed、reading choices 和 OAuth 这几类它们覆盖了绝大多数配置问题。第一类401 Unauthorized。报错信息通常是Error code: 401 - {error: {message: Invalid API key}}。原因基本是 Key 没读到、Key 写错、或者环境变量名对不上。排查顺序先确认echo $TAOTOKEN_API_KEY能打印出 sk- 开头的值再确认代码里读的环境变量名和 export 的一致最后去控制台 API Keys 页面确认这个 Key 没有被删除或禁用。如果 Key 是从网页复制的注意前后有没有多余空格。第二类local proxy failed 或 connection error。报错信息类似APIConnectionError: Connection error或者local proxy failed。这类问题通常出在 base_url 写错比如多写了 /v1或者写成了 https://taotoken.net/api/v1。正确写法就是 https://taotoken.net/api 不要加后缀。另外确认你的 Python 环境能正常解析域名可以用curl -I https://taotoken.net/api快速测一下连通性。第三类reading choices 相关报错。典型信息是IndexError: list index out of range或者AttributeError: NoneType object has no attribute choices。这通常意味着返回体结构和预期不一致可能是请求根本没成功返回了一个错误对象。排查方法在取 choices 之前先把整个 resp 打印出来看它到底是 ChatCompletion 还是错误结构。如果是错误结构里面会有 error.message 字段按那个信息去查。第四类OAuth 或鉴权相关报错。如果你在别的工具里配过 OAuth可能会残留旧的鉴权头导致请求被拒。检查你的客户端初始化里有没有多余的 headers 或 auth 参数。用 openai 包时只需要 api_key 和 base_url 两个参数不要手动加 Authorization 头包会自己处理。把这几类错误和排查动作整理成表方便你对照报错关键词可能原因排查动作401 Invalid API keyKey 未读到或写错检查环境变量与控制台local proxy failedbase_url 写错确认结尾无 /v1reading choices返回结构异常先打印完整 respOAuth 相关残留鉴权头移除多余 headers注意如果你在 Cline、CC Switch 或 Codex 这类工具里配置Base URL、Key、Model ID 三件套要写全。Base URL 填 https://taotoken.net/api Key 填控制台创建的 sk- 值Model ID 填 glm-4-9b。三者缺一不可少填一个就会报鉴权或模型找不到。排错的核心思路是先确认三件套再看返回结构最后看网络连通性。按这个顺序走大部分问题五分钟内能定位。6. 把 GLM-4-9B 接进你的工作流从单次调用到可复用封装链路跑通、报错会查之后下一步就是把它变成可复用的东西。单次调用脚本只能验证真正要用起来得封装成一个稳定的函数或类支持多轮对话、异常重试、以及模型切换。这一节给一个轻量封装你可以直接拿去改。封装的核心是把 client 初始化、请求构造、异常处理、返回解析四件事分开。下面这个类支持传入不同的 model这样你以后想对比 GLM-4-9B 和其他模型只改一个参数就行。import os import time from openai import OpenAI, APIError, APIConnectionError class TaoTokenClient: def __init__(self, model: str glm-4-9b, max_retries: int 3): self.client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlhttps://taotoken.net/api, ) self.model model self.max_retries max_retries def chat(self, prompt: str, historyNone, temperature: float 0.3, max_tokens: int 1024): messages history or [] messages messages [{role: user, content: prompt}] last_err None for attempt in range(self.max_retries): try: resp self.client.chat.completions.create( modelself.model, messagesmessages, temperaturetemperature, max_tokensmax_tokens, ) return resp.choices[0].message.content except (APIError, APIConnectionError) as e: last_err e time.sleep(1.5 * (attempt 1)) raise RuntimeError(f调用失败已重试 {self.max_retries} 次) from last_err用这个类跑一次长文本提取任务验证它在真实场景下的表现。比如把一段技术文档塞进去让它提取关键结论cli TaoTokenClient(modelglm-4-9b) doc GLM-4-9B 支持 128K 上下文适合长文本知识点提取。 answer cli.chat(f从下面这段话里提取模型名称和支持的上下文长度{doc}) print(answer)如果你要做的是长期编码或 Agent 类任务调用频率会比较高这时候可以考虑用 Coding Plan 来管理额度入口在 https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding_planutm_campaignrewrite 。它更适合需要持续、稳定调用模型的开发场景而不是一次性验证。最后给一个实用技巧把每次调用的 model、prompt_tokens、completion_tokens、耗时记到日志里。这样跑一段时间后你能清楚知道 GLM-4-9B 在你的场景下平均消耗多少 token方便做成本估算。日志代码很简单在 chat 方法里加几行就行import logging logging.basicConfig(levellogging.INFO) # 在成功返回前加 logging.info(model%s prompt_tokens%s completion_tokens%s, self.model, resp.usage.prompt_tokens, resp.usage.completion_tokens)到这里从统一 Key 配置、请求参数模板、完整调用、返回校验到排错和封装整条链路就闭环了。你可以直接拿第 3 节的配置和第 4 节的校验代码起步遇到报错翻第 5 节想长期用就套第 6 节的封装。GLM-4-9B 在中文场景下的表现测评一已经给了不少数据现在轮到你在自己的项目里复现了。