拓冰网站定制 
humanizer在Ollama中的隐藏坑自定义Modelfile聊天模板完整配置教程【免费下载链接】humanizer项目地址: https://ai.gitcode.com/hf_mirrors/jialinyyzz/humanizerhumanizer 是一个可以本地运行的 12B 模型专门把 AI 写的草稿邮件、报告、帖子中英文都支持改写成像人写的。用它前最该知道的是在 Ollama 里部署会踩一个隐藏坑——Ollama 会忽略 GGUF 文件里自带的聊天模板换上自己的 Gemma 模板直接把模型输出搞坏。这篇教程带你用自定义 Modelfile 一步步避开它附完整模板和排查清单复制即用。一、先看懂这个隐藏坑为什么存在 ⚠️humanizer 是一个文本续写模型不是聊天模型它训练时只见过英文指令 草稿 分隔符这种裸文本。完整规则见 USAGE.zh.md 第 1 节这里只列最关键的三条规则为什么提示词必须逐字一致指令不翻译、不缺空行改一个词、少一个空行效果都会明显变差只靠 EOS 停不设停止符输出里正常会出现###设了停止符会被截断采样固定temperature 1.0、top-p 0.95top-k 和 min-p 全关这是评测用的参数其他默认值会让改写质量下降而坑就出在聊天模板上2026-10-04 起仓库里的 GGUF 文件如 humanizer-12b-Q8_0.gguf已经内置了聊天模板LM Studio、llama-server 这类会读取文件模板的框架可以直接用聊天功能但 Ollama 不读文件里的模板它会自动套上自己的 Gemma 4 对话模板——给草稿套上模型训练时从没见过的轮次标记输出就会以好的SureHere is…开头、复述指令甚至停不下来。所以 Ollama 部署必须手写一份 Modelfile把模板掰回来。二、准备工作选对文件并下载 按内存选文件都在仓库根目录你的内存选这个文件大小32 GB 及以上humanizer-12b-Q8_0.gguf推荐约 12.7 GB16 GBhumanizer-12b-Q6_K.gguf约 10.0 GB硬盘紧张humanizer-12b-Q4_K_M.gguf约 7.6 GB8 GB装不下 12B 模型—# 方式一hf download推荐还能顺带下提示词文件 pip install -U huggingface_hub[cli] hf download jialinyyzz/humanizer humanizer-12b-Q8_0.gguf prompt_format.json --local-dir ./humanizer-model # 方式二clone 整个仓库国内可用镜像地址 git clone https://gitcode.com/hf_mirrors/jialinyyzz/humanizer注意两点 ① Ollama 版本要支持 Gemma 4 模型humanizer 由 google/gemma-4-12B 微调而来太老的版本连加载都做不到 ② 用wc -c或 USAGE.zh.md 第 2 节里的 sha256 表核对文件完整性别用 2026-10-04 之前下载过的旧文件做参照。三、完整 Modelfile逐行看懂把下面内容存为Modelfile和 GGUF 放同一目录这就是全文核心FROM ./humanizer-12b-Q8_0.gguf TEMPLATE {{- $draft : }}{{- range .Messages }}{{- if eq .Role user }}{{- $draft .Content }}{{- end }}{{- end }}Rewrite the text below so it reads like a person wrote it, not a language model. Reorganize it as you see fit. Vary sentence length on purpose. Cut hedging, throat-clearing, and any sentence that only announces what comes next. Prefer the concrete word over the abstract one. It is fine to sound uneven. Every fact, number, unit, date, name and quotation must survive unchanged. {{ $draft }} ### Rewritten:{{ \n\n }} PARAMETER temperature 1.0 PARAMETER top_p 0.95 PARAMETER top_k 0 PARAMETER min_p 0 PARAMETER repeat_penalty 1.0 PARAMETER num_ctx 8192 PARAMETER num_predict 20483.1 TEMPLATE把最后一条用户消息当草稿模板用 Go 的text/template语法Ollama 模板同款。逻辑很简单遍历所有消息只取最后一条 user 消息作为草稿系统提示词和之前的对话一律不用——每条消息各改各的天然没有多轮干扰渲染结果和 prompt_format.json 里instr 草稿 sep拼出来的字符串逐字相同作者已用同一套模板引擎渲染验证过结尾的{{ \n\n }}是给### Rewritten:后面补那个空行——防止模板末尾空白被 Ollama 裁掉缺了它模型续写的起点就不对了。3.2 PARAMETER把默认采样全部掰正Ollama 的默认采样参数和模型要求的不一致必须逐条覆盖参数值说明temperature1.0评测用的温度低了改写会端着top_p/top_k/min_p0.95 / 0 / 0top_k0、min_p0 表示关闭只留 top-prepeat_penalty1.0不惩罚重复1.0 才是关闭num_ctx8192指令 草稿 改写共用的上下文num_predict2048改写通常和草稿等长单篇够用四、三步创建并验证模型# 1. 用自定义 Modelfile 创建 ollama create humanizer -f Modelfile # 2. 检查实际生效的配置确认没有被自动加上 PARAMETER stop 之类的行 ollama show humanizer --modelfile # 3. 聊天模式一条消息贴一篇草稿 ollama run humanizer聊天模式下有两个容易忽略的细节草稿首尾不要带空行。Ollama 的模板没法像代码那样strip()多出来的首尾空白会让提示词和训练时不完全一致看到回复以好的Sure开头、复述指令、或者冒出start_of_turn这种标记就是模板没生效——回到第 3、4 节核对 TEMPLATE 是否被 Ollama 覆盖。五、进阶raw 模式彻底绕开模板如果你要写代码批量调用还有个更稳的路子——raw 模式不经过任何模板发完整提示词即可哪天下载的文件都能用jq -n --rawfile d draft.txt --slurpfile f prompt_format.json \ {model: humanizer, raw: true, stream: false, prompt: ($f[0].instr \n\n ($d | sub(^\\s; ) | sub(\\s$; )) $f[0].sep), options: {temperature: 1.0, top_p: 0.95, top_k: 0, min_p: 0, repeat_penalty: 1.0, num_ctx: 8192, num_predict: 2048}} \ | curl -s http://127.0.0.1:11434/api/generate -d - | jq -r .response指令和分隔符两个字符串可以直接从 prompt_format.json 读保证逐字一致中文草稿也用这段英文指令不要翻译。六、效果如何改写后有多像人按 README.md 的评测数据210 篇英文草稿、最严格设置下的外部检测器95% 的改写被判为人写只有 11 篇被判 AI。事实保真度同样经过严格校验420 篇英文改写中376 篇没被发现任何事实问题且 9 成以上的微小错误只是单个词或短语。但记住三条自查习惯完整清单在 USAGE.zh.md 第 12 节发之前通读一遍重点核对数字、日期、单位和人名改写和草稿太像时再采一次每次采样都是重新来的标题、列表、落款偶尔会丢补回格式再发出。七、常见问题排查表现象原因解决输出以好的SureHere is…开头、复述指令、停不下来套上了 Ollama 自带的 Gemma 模板Modelfile 没写 TEMPLATE 或被覆盖用本教程的 Modelfile 重新ollama create输出里出现start_of_turn、end_of_turn标记同上聊天格式泄漏同上或改用 raw 模式输出在###处提前截断某处设了停止符ollama show humanizer --modelfile检查并删掉PARAMETER stop改写和草稿几乎一样采样参数不对如温度过低或运气差确认 temperature 1.0 已写入 Modelfile再采一次模型加载失败Ollama 版本不支持 Gemma 4升级 Ollama 到支持 Gemma 4 的版本相关文档USAGE.zh.md第 7 节 Ollama 完整章节、第 13 节排错表、批量改写脚本README.md文件清单、量化精度对比、评测结果prompt_format.json指令与分隔符原文逐字复制用generation_config.json注意其中含 top-k 64在 Ollama 里已被 Modelfile 覆盖无需理会AGENTS.md给 AI Agent 的安装指南含部署自检步骤【免费下载链接】humanizer项目地址: https://ai.gitcode.com/hf_mirrors/jialinyyzz/humanizer创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 humanizer在Ollama中的隐藏坑：自定义Modelfile聊天模板完整配置教程
humanizer在Ollama中的隐藏坑自定义Modelfile聊天模板完整配置教程【免费下载链接】humanizer项目地址: https://ai.gitcode.com/hf_mirrors/jialinyyzz/humanizerhumanizer 是一个可以本地运行的 12B 模型专门把 AI 写的草稿邮件、报告、帖子中英文都支持改写成像人写的。用它前最该知道的是在 Ollama 里部署会踩一个隐藏坑——Ollama 会忽略 GGUF 文件里自带的聊天模板换上自己的 Gemma 模板直接把模型输出搞坏。这篇教程带你用自定义 Modelfile 一步步避开它附完整模板和排查清单复制即用。一、先看懂这个隐藏坑为什么存在 ⚠️humanizer 是一个文本续写模型不是聊天模型它训练时只见过英文指令 草稿 分隔符这种裸文本。完整规则见 USAGE.zh.md 第 1 节这里只列最关键的三条规则为什么提示词必须逐字一致指令不翻译、不缺空行改一个词、少一个空行效果都会明显变差只靠 EOS 停不设停止符输出里正常会出现###设了停止符会被截断采样固定temperature 1.0、top-p 0.95top-k 和 min-p 全关这是评测用的参数其他默认值会让改写质量下降而坑就出在聊天模板上2026-10-04 起仓库里的 GGUF 文件如 humanizer-12b-Q8_0.gguf已经内置了聊天模板LM Studio、llama-server 这类会读取文件模板的框架可以直接用聊天功能但 Ollama 不读文件里的模板它会自动套上自己的 Gemma 4 对话模板——给草稿套上模型训练时从没见过的轮次标记输出就会以好的SureHere is…开头、复述指令甚至停不下来。所以 Ollama 部署必须手写一份 Modelfile把模板掰回来。二、准备工作选对文件并下载 按内存选文件都在仓库根目录你的内存选这个文件大小32 GB 及以上humanizer-12b-Q8_0.gguf推荐约 12.7 GB16 GBhumanizer-12b-Q6_K.gguf约 10.0 GB硬盘紧张humanizer-12b-Q4_K_M.gguf约 7.6 GB8 GB装不下 12B 模型—# 方式一hf download推荐还能顺带下提示词文件 pip install -U huggingface_hub[cli] hf download jialinyyzz/humanizer humanizer-12b-Q8_0.gguf prompt_format.json --local-dir ./humanizer-model # 方式二clone 整个仓库国内可用镜像地址 git clone https://gitcode.com/hf_mirrors/jialinyyzz/humanizer注意两点 ① Ollama 版本要支持 Gemma 4 模型humanizer 由 google/gemma-4-12B 微调而来太老的版本连加载都做不到 ② 用wc -c或 USAGE.zh.md 第 2 节里的 sha256 表核对文件完整性别用 2026-10-04 之前下载过的旧文件做参照。三、完整 Modelfile逐行看懂把下面内容存为Modelfile和 GGUF 放同一目录这就是全文核心FROM ./humanizer-12b-Q8_0.gguf TEMPLATE {{- $draft : }}{{- range .Messages }}{{- if eq .Role user }}{{- $draft .Content }}{{- end }}{{- end }}Rewrite the text below so it reads like a person wrote it, not a language model. Reorganize it as you see fit. Vary sentence length on purpose. Cut hedging, throat-clearing, and any sentence that only announces what comes next. Prefer the concrete word over the abstract one. It is fine to sound uneven. Every fact, number, unit, date, name and quotation must survive unchanged. {{ $draft }} ### Rewritten:{{ \n\n }} PARAMETER temperature 1.0 PARAMETER top_p 0.95 PARAMETER top_k 0 PARAMETER min_p 0 PARAMETER repeat_penalty 1.0 PARAMETER num_ctx 8192 PARAMETER num_predict 20483.1 TEMPLATE把最后一条用户消息当草稿模板用 Go 的text/template语法Ollama 模板同款。逻辑很简单遍历所有消息只取最后一条 user 消息作为草稿系统提示词和之前的对话一律不用——每条消息各改各的天然没有多轮干扰渲染结果和 prompt_format.json 里instr 草稿 sep拼出来的字符串逐字相同作者已用同一套模板引擎渲染验证过结尾的{{ \n\n }}是给### Rewritten:后面补那个空行——防止模板末尾空白被 Ollama 裁掉缺了它模型续写的起点就不对了。3.2 PARAMETER把默认采样全部掰正Ollama 的默认采样参数和模型要求的不一致必须逐条覆盖参数值说明temperature1.0评测用的温度低了改写会端着top_p/top_k/min_p0.95 / 0 / 0top_k0、min_p0 表示关闭只留 top-prepeat_penalty1.0不惩罚重复1.0 才是关闭num_ctx8192指令 草稿 改写共用的上下文num_predict2048改写通常和草稿等长单篇够用四、三步创建并验证模型# 1. 用自定义 Modelfile 创建 ollama create humanizer -f Modelfile # 2. 检查实际生效的配置确认没有被自动加上 PARAMETER stop 之类的行 ollama show humanizer --modelfile # 3. 聊天模式一条消息贴一篇草稿 ollama run humanizer聊天模式下有两个容易忽略的细节草稿首尾不要带空行。Ollama 的模板没法像代码那样strip()多出来的首尾空白会让提示词和训练时不完全一致看到回复以好的Sure开头、复述指令、或者冒出start_of_turn这种标记就是模板没生效——回到第 3、4 节核对 TEMPLATE 是否被 Ollama 覆盖。五、进阶raw 模式彻底绕开模板如果你要写代码批量调用还有个更稳的路子——raw 模式不经过任何模板发完整提示词即可哪天下载的文件都能用jq -n --rawfile d draft.txt --slurpfile f prompt_format.json \ {model: humanizer, raw: true, stream: false, prompt: ($f[0].instr \n\n ($d | sub(^\\s; ) | sub(\\s$; )) $f[0].sep), options: {temperature: 1.0, top_p: 0.95, top_k: 0, min_p: 0, repeat_penalty: 1.0, num_ctx: 8192, num_predict: 2048}} \ | curl -s http://127.0.0.1:11434/api/generate -d - | jq -r .response指令和分隔符两个字符串可以直接从 prompt_format.json 读保证逐字一致中文草稿也用这段英文指令不要翻译。六、效果如何改写后有多像人按 README.md 的评测数据210 篇英文草稿、最严格设置下的外部检测器95% 的改写被判为人写只有 11 篇被判 AI。事实保真度同样经过严格校验420 篇英文改写中376 篇没被发现任何事实问题且 9 成以上的微小错误只是单个词或短语。但记住三条自查习惯完整清单在 USAGE.zh.md 第 12 节发之前通读一遍重点核对数字、日期、单位和人名改写和草稿太像时再采一次每次采样都是重新来的标题、列表、落款偶尔会丢补回格式再发出。七、常见问题排查表现象原因解决输出以好的SureHere is…开头、复述指令、停不下来套上了 Ollama 自带的 Gemma 模板Modelfile 没写 TEMPLATE 或被覆盖用本教程的 Modelfile 重新ollama create输出里出现start_of_turn、end_of_turn标记同上聊天格式泄漏同上或改用 raw 模式输出在###处提前截断某处设了停止符ollama show humanizer --modelfile检查并删掉PARAMETER stop改写和草稿几乎一样采样参数不对如温度过低或运气差确认 temperature 1.0 已写入 Modelfile再采一次模型加载失败Ollama 版本不支持 Gemma 4升级 Ollama 到支持 Gemma 4 的版本相关文档USAGE.zh.md第 7 节 Ollama 完整章节、第 13 节排错表、批量改写脚本README.md文件清单、量化精度对比、评测结果prompt_format.json指令与分隔符原文逐字复制用generation_config.json注意其中含 top-k 64在 Ollama 里已被 Modelfile 覆盖无需理会AGENTS.md给 AI Agent 的安装指南含部署自检步骤【免费下载链接】humanizer项目地址: https://ai.gitcode.com/hf_mirrors/jialinyyzz/humanizer创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考