LibreChat 这个项目最近在开发者圈子里讨论度确实不低。如果你对 OpenAI 官方网页版的各种限制感到不耐烦或者受够了在 ChatGPT、Claude、Gemini 之间来回切换账号、复制粘贴对话内容那 LibreChat 基本就是为你准备的解决方案。一句话概括它是一个开源的、可自托管的 AI 聊天聚合平台你可以把它理解成一个“统一入口”把主流的各家大模型 API 全部塞进同一个清爽的对话框里同时还把 ChatGPT Plus 的联网搜索、代码解释器、多模态识别这些高级功能一并打包给你并且数据完全掌握在你自己手里。这篇文章我会从零开始先拆解 LibreChat 的核心设计思路再完整走一遍部署流程最后把我在实际使用中踩过的坑和排查经验一并分享出来。内容偏实操向无论你是想自己搭一个日常主力聊天工具还是想在团队内部部署一个共享的 AI 网关这篇文章都值得你花几分钟看完。1. 项目整体设计与核心思路拆解1.1 它到底解决了什么问题先聊一个很实际的问题现在的 AI 工具生态表面上是百花齐放实际上用户被切得七零八碎。你今天要用 GPT-4o 处理长文档明天可能要用 Claude 的 Artifacts 画个原型后天又要用 Gemini 的百万 token 上下文去分析代码仓库。每个模型都有自己的网页端、自己的账号体系、自己的订阅费用甚至每个平台的对话历史都是孤岛。我自己的真实状态是Chrome 里固定了七八个 AI 网站的标签页每天在不同对话框里拷来拷去效率极低而且每个月要付好几份订阅费。LibreChat 的思路非常直接既然每个厂商都在单打独斗那我就在应用层把你们全部聚合起来。它本质上是一个前端应用加一个后端代理服务通过统一的接口规范对接 OpenAI、Anthropic、Google、Azure、OpenRouter 等多个模型提供方。你只需要在配置界面里填好各家 API Key就能在同一个聊天窗口里随时切换底层模型而且整个会话历史、文件上传、预设指令都是共用的。这里值得展开说一下它的架构思路。LibreChat 的后端不是简单把请求转发给某个模型它还做了一层非常关键的“会话管理层”。所有对话内容会先写入本地数据库默认 MongoDB每个会话都记录了创建时间、使用的模型、上下文长度、token 消耗等元数据。这意味着你可以像操作一个带档位的工具箱一样同一个话题的讨论可以无缝切换到另一种模型继续聊上下文不会丢。这种设计思路在原生 ChatGPT 里是做不到的因为官方平台每个模型是独立的会话体系。1.2 开发者的“智能网关”思维如果说普通用户把 LibreChat 当成一个增强版 ChatGPT 来用那开发者会更看重它的“网关”属性。我自己的理解是LibreChat 本质上是一个自托管的 AI 网关它把“模型接入方式”、“密钥管理”、“用户权限”、“用量统计”这些基础设施层面的东西全部标准化了。举个例子你是一个三人小团队的 Leader想让团队成员都用上不同的 AI 模型但不想每个人都去注册账号、充值、申请 Key。用 LibreChat 就能解决这个问题你在服务器上部署好之后通过环境变量配置好主 Key再在前端的管理面板里创建若干个登录账号分配给同事。所有请求都通过 LibreChat 中转模型厂商只看到一个来源的调用你还能在后台清晰地看到每天有多少人、调了多少次、烧了多少 token。是限制每个用户每天的使用额度还是彻底开放給大家随便用都由你来决定。这种架构带来的另一个好处是安全边界的收敛。团队里任何人不需要接触真正的 API Key前端页面根本就不暴露密钥信息所有敏感配置都留在服务端环境里。即便某个成员的账号泄露影响范围也只是这一个账号你在后台一键禁用就行不会牵扯到底层模型提供方的账户安全。1.3 这个项目适合谁用聊完了设计思路说说适合人群。根据我这几个月的使用感受我把适合用 LibreChat 的人分为三类。第一类是追求效率的个人用户。你手里已经有一个或多个模型的 API Key希望在一个界面里完成所有对话操作同时想保留完整的、可搜索的历史记录。LibreChat 对单用户支持的体验非常好所有会话可以按时间线排列也支持全文检索历史聊天内容。第二类是团队协作的小团队、小工作室。你需要在内部共享一套 AI 工具统一管理模型调用成本和访问权限同时不想让每个成员都去了解各家模型厂商的复杂配置。LibreChat 自带简易的用户注册登录体系和管理后台开箱即用。第三类是对数据隐私和自主可控有要求的用户。本地部署意味着所有对话记录只存在于你自己的服务器上不会被某个商业平台拿去训练模型至少在你自己的基础设施上是这样。对一些涉及内部项目代码、商业方案等敏感信息的对话场景这一点非常关键。而且整个项目基于 MIT 开源协议代码完全透明核心功能都用不着依赖任何闭源服务。还有一类高级用户需求容易被忽略——想二次开发 AI 应用的人。LibreChat 不仅是一个现成的产品它的前端基于 Next.js和后端基于 Node.js其实是一套很干净的代码基座API 接口设计规范文档也齐全。你完全可以在它上面改出一套面向业务场景的定制化 AI 工作台比如加上企业内部知识库的检索功能或者把对话记录接入自己的监控审计系统。这也是我接下来会重点讲解它配置逻辑的原因——理解它的设计思路才能更好地改造它。2. 核心功能深度解析与实际体验2.1 多模型聚合一个窗口搞定所有对话先说 LibreChat 最核心的功能模型聚合。这并不是简单的“把多个按钮放到一个页面里”而是从请求层开始做了统一的抽象。你在前端选好模型后端会把这个请求包装成目标模型所需的 API 格式做参数映射、密钥注入、网络转发再把结果流式传回前端。这种设计带来的体验差异非常明显。我在用原生 ChatGPT 的时候如果想让 GPT-4o 分析一份 PDF之后又想让 Claude 基于相同内容给一份不同角度的总结必须手动切换平台、重新上传文件、重新写上下文。在 LibreChat 里同一个会话中我可以直接从模型选择器把模型从 GPT-4o 切到 Claude Sonnet文件已经挂在上下文里了新模型能看到之前的全部聊天记录。这种“连续对话 模型自由切换”的组合是它对我吸引力最大的地方。模型接入方面它支持的 Provider 非常广。官方列表里有 OpenAI、Azure OpenAI、Anthropic、Google Gemini、OpenRouter、Ollama本地模型、Groq、Mistral、xAI 等。最方便的是 OpenRouter 和 Ollama 这两个渠道前者一个 Key 就能代理访问市面上几乎所有的开源和商业模型后者直接对接你本地用 Ollama 跑的开源模型比如 Llama 3、Qwen 等让私有化部署的铁杆用户也能用它作为统一入口。实际上 LibreChat 的架构设计里新模型接入基本就是往列表里加一个配置项地址的事只要你懂一点 JSON 配置完全可以接入任何兼容 OpenAI API 格式的自建模型服务。2.2 不只是聊天文件、代码和联网能力很多人以为 LibreChat 只是一个“聊天聚合器”那就低估它了。我刚才提到它把 ChatGPT 的很多高级功能一并打包了这是实打实的不是画饼。文件上传与解析这块LibreChat 支持把 PDF、TXT、Markdown、JSON、CSV、图片等文件直接拖进对话窗口。后端的文件解析层会自动提取文本内容拼接进上下文然后交给模型处理。我没记错的话目前它支持通过视觉能力解析图片内容也支持把长文档拆块后做简单的语义索引方便模型“翻书”式回答。这里给个实际参考我之前让 GPT-4o 分析一份 100 多页的年度报告 PDF从上传到出结论大概消耗了几万 token体验上和官方版基本没有差别。代码解释器Code Interpreter也移植过来了。本质上它跑在一个沙箱容器里模型可以生成 Python 代码由沙箱执行后把结果图表、文本、数据返回到对话里。这在做数据分析、格式转换、批量处理文件时非常实用。我自己用得最多的是拿它做 Excel 数据清洗直接把脏数据表格丢进去告诉它“把这个 Excel 里乱七八糟的空格、重复项、格式问题给我整理一下输出一个新文件”它真能一气呵成地给你生成一个干净的结果文件。联网搜索功能同样没有缺席。在会话设置里打开“Web Search”LibreChat 会调用后端内置的搜索代理去抓取互联网信息并把搜索结果作为上下文补充给模型。这样聊到最近发生的事件或者查实时资料时模型就不会一直说“我知识截止到XX年”。实测下来搜索响应速度取决于你配置的搜索 API 服务官方支持用免费的 SearXNG 自建搜索节点也可以用商业搜索 API接口可替换。2.3 预设指令Prompts与会话管理从实际使用体验来看LibreChat 的“预设 Prompt”功能帮我把日常重复性的指令模板化省了大量的打字时间。在界面里创建一条预设指令起个名字比如“代码审查员”内容写好“请你以资深后端工程师的身份审查下面这段代码重点关注安全性、性能、可维护性并给出修改建议”之后在任何新会话里一键选中这条预设再粘贴代码就能直接开聊。预设指令可以设置为全局可见限制在当前用户自己用甚至可以附带自己的标题和配图体验亲切。对团队来说这相当于沉淀了一套“AI 使用最佳实践”把大家在群里互传的提示词统一管起来。会话管理还支持多级目录功能。这个太重要了尤其是当你用过一段时间、会话数量爆炸之后。我习惯给会话分类建目录比如“工作-前端项目”“工作-数据分析”“个人-技术学习”然后把相关对话拖进对应目录。配合全文搜索几百个历史会话也能秒速定位。2.4 自定义与界面属性和其他值得一提的能力LibreChat 的面板支持一定程度的个性化设置。你可以调整主题外观、界面语言它自带多语言支持包括简体中文更换应用 Logo、标题、欢迎语等。如果你部署给团队内部用把它调整成带自家品牌风格的界面并不难。后端管理面板里管理员可以查看所有用户、所有会话也可以调整“是否允许注册”“是否开启多用户模式”这些策略还能配置并发限制和每日限额。另外提醒一句LibreChat 不只是网页端。它提供了完善的 API 接口你在它的网页里调用的能力完全可以写成脚本或集成到其他系统里。甚至社区有人基于它的接口写了命令行客户端和 Telegram 机器人等于你在电脑上开个终端也能用上你部署的那一套聚合模型服务。这种开放性是官方平台很难给你的。3. 本地部署从零开始的完整实操指南3.1 部署前的准备工作与部署方案选择LibreChat 的部署方式不少官方提供了 Docker Compose、原生 Node.js 运行、Kubernetes 等常见部署途径。对于绝大多数个人和小团队用户我强烈推荐 Docker Compose 方案。原因很简单依赖被打包干净升级方便回滚容易出了问题也不会污染宿主机环境。动手之前你需要先准备好这些一台能联网的服务器或个人电脑建议配置不低于 2 核 CPU、4GB 内存。如果你打算跑本地模型通过 Ollama内存至少要到 16GB且最好有独立显卡跑大参数才不卡。Docker 与 Docker Compose 插件安装好了建议 Docker 版本不低于 20.10Compose 不低于 2.x。准备好至少一个模型厂商的 API Key。没有的话可以先注册一个OpenAI 和 Anthropic 都提供初始体验额度或者去 OpenRouter 充几美元也能拿到一个 Key。一个域名或者能直接用 IP 访问的方案。纯局域网体验不必申请域名但建议在反向代理时做好 HTTPS 配置否则浏览器的一些高级特性会受限比如麦克风输入、剪贴板权限。下面我先给出一份最简化的 docker-compose.yml 示例它包含 LibreChat 核心后端和一个 MongoDB 数据库可以直接跑起来version: 3.4 services: api: image: ghcr.io/danny-avila/librechat:latest ports: - 3080:3080 extra_hosts: - host.docker.internal:host-gateway env_file: - .env volumes: - ./images:/app/client/public/images - ./logs:/app/api/logs depends_on: - mongodb restart: always mongodb: image: mongo:7 restart: always volumes: -># 域名配置可留空 DOMAINlocalhost:3080 # 主管理员账号 ALLOW_REGISTRATIONtrue ALLOW_EMAIL_LOGINtrue ALLOW_SOCIAL_LOGINfalse # MongoDB 连接地址 MONGO_URImongodb://root:your_mongo_passwordmongodb:27017/LibreChat?authSourceadmin # 开启用户注册后的默认角色 DEFAULT_USER_ROLEUSER # 模型提供方 Key这里以 OpenAI 为例 OPENAI_API_KEYsk-xxxxxxxxxxxxxxxx # 如果你要接 OpenRouter增加一个 Key OPENROUTER_API_KEYsk-or-xxxxxxxx我对第一次部署的人的建议是先不要加太多 Provider Key只加一个 OPENAI_API_KEY 或者 OPENROUTER_API_KEY跑通了再逐步增加。不要把配置一步到位否则出问题的时候很难定位是哪个环节出了问题。3.2 完整安装步骤一步步跑起来整个启动流程非常顺但有几个细节值得强调。下面是完整步骤创建项目目录并进入mkdir librechat cd librechat把上面的 docker-compose.yml 和 .env 内容复制进去按你的实际 Key 和密码修改 .env执行docker compose pull拉取最新镜像执行docker compose up -d后台启动服务查看日志确认启动状态docker compose logs -f api启动完成后浏览器访问http://服务器IP:3080就能打开界面。第一次打开会看到欢迎注册页面如果 .env 里ALLOW_REGISTRATIONtrue直接注册第一个账号就行。这个账号默认会成为管理员账号在后台管理面板里可以继续创建用户、分配角色、查看用量。这里为什么强调要先注册第一个账号因为 LibreChat 的多用户逻辑里管理员身份是在数据库里通过配置的不是你手动去改数据库。系统默认把安装后第一个注册的用户设为管理员角色前提是开启了注册功能。如果你不小心把注册功能关掉了那就得去 MongoDB 里手动把某个用户的角色改成 ADMIN操作起来比较麻烦所以先在初始状态完成这一步。调试过程中最常用的命令是docker compose logs -f api。日志里会明确输出当前加载了哪些模型提供方、每个服务的连接状态。如果看到红色报错区块绝大多数情况下是 Key 错误或者网络不可达导致的。3.3 配置核心细节模型接入与多用户管理跑起来只是第一步真正让 LibreChat 好用起来的是细节配置。模型接入配置方面LibreChat 的 .env 文件实质上是一层扁平化的配置空间支持的变量非常多。以接入 Anthropic Claude 为例ANTHROPIC_API_KEYsk-ant-xxxxxxxx设置好 Key 后前端模型列表会自动出现 Claude 系列模型例如 claude-3-5-sonnet、claude-3-opus 等。如果你希望隐藏部分模型可以通过自定义配置文件librechat.yaml来控制。OpenRouter 是我特别推荐的一个接入渠道。只要填入一个 Key前端模型列表会自动出现 OpenRouter 支持的数百种模型包括 GPT、Claude、Llama、Qwen、DeepSeek、Mistral 等。注意OpenRouter 有免费模型标记为:free用量较小或者测试场景可以用但稳定性和速度不如付费模型日常主力建议还是走官方 API。Ollama 本地模型的接入方式略有不同。在 .env 里设置OLLAMA_BASE_URLhttp://host.docker.internal:11434 OLLAMA_MODELSllama3.1:8b,qwen2.5:7b前提是你宿主机上已经安装并运行了 Ollama本地用ollama pull llama3.1:8b拉好模型。这里的host.docker.internal是让容器访问宿主机服务的关键配置如果你用的是 Linux 且没有这一项可能需要通过extra_hosts参数手动映射。我在配置时就遇到过因为没有加映射导致容器访问不到宿主机 Ollama 的情况所以 docker-compose.yml 里我专门写了extra_hosts。多用户与权限管理方面LibreChat 支持 Admin 面板。管理员登录后通过左上角或设置菜单进入管理后台可以看到用户列表、活跃会话、用量统计。在配置文件中你还可以精细控制每个用户的每日请求上限例如限制免费用户每天最多 50 次请求避免有人把仓库里的 Key 额度刷爆。如果你是个人使用完全可以开单用户模式彻底避免路人注册进来蹭服务。3.4 配置文件的进阶玩法librechat.yaml一些更高级的定制能力藏在librechat.yaml这个自定义配置文件里。你可以把它挂载到容器中用它实现模型列表的精简、自定义模型别名、限制某些模型只能给某些角色使用等。我用一个实际例子来展示它的作用。假设你只想让团队看到你挑选的 4 个模型而不是 OpenRouter 返回的几百个你可以在librechat.yaml中显式指定模型列表version: 1.0.4 cache: true endpoints: - name: openai apiKey: ${OPENAI_API_KEY} models: default: - gpt-4o - gpt-4o-mini user: - gpt-4o admin: - gpt-4o - gpt-4o-mini - name: anthropic apiKey: ${ANTHROPIC_API_KEY} models: default: - claude-3-5-sonnet-20241022 user: - claude-3-5-sonnet-20241022通过这样的配置你可以把默认展示的模型收敛到几个精选项里避免选择困难症也能控制预算。这种灵活性在原生网页版里根本不可能实现而在 LibreChat 里只是改一下 yaml 的事。4. 常见问题与排查经验实录4.1 重点问题速查表这段时间里我自己和社区里其他人经常遇到的问题我整理成了一个速查表你可以先收藏起来等真的踩到坑了再来对照问题现象可能原因快速处理方式服务已启动但网页打不开端口未释放或未放行检查防火墙/安全组确认 3080 端口已对外开放对话一直转圈没响应API Key 无效或网络不通先看后端日志docker compose logs -f api检查是否有 401/403 报错模型列表为空未配置对应 Provider Key检查 .env 是否填了 Key并确认容器重新加载了配置文件上传后无法解析文件格式不支持或太大查看后端日志确认文件类型在支持列表内限制大小可通过配置调整注册界面提示不允许注册ALLOW_REGISTRATION 未开启修改 .env 并重启容器数据库连接失败MongoDB 密码/连接串错误核对 MONGO_URI 中的密码和 docker-compose.yml 中设置是否一致中文界面显示不全浏览器语言设置问题在界面设置或浏览器语言偏好里把中文排到最前容器反复重启环境变量语法问题使用docker compose config校验配置语法4.2 部署安装过程中的典型错误部署阶段最常出问题的几个环节我说得非常具体一点。第一个是 MongoDB 初始化失败。Docker Compose 里 MongoDB 容器启动和初始化需要一段时间如果你紧接着马上启动 api 容器api 可能因为连不上数据库而报错退出。Compose 里的 depends_on 只保证了 MongoDB 进程启动了不代表它就绪了。解决办法有两个一是重启 api 容器让它重试docker compose restart api二是加一个 healthcheck 让 api 等 MongoDB 完全就绪再起动。时间久了你会发现后者才是稳妥解法。第二个是环境变量里面包含特殊字符导致解析错误。API Key 通常很长且包含特殊字符比如$、#、/如果不用引号括起来Docker Compose 解析 .env 文件时可能会出问题。我的习惯是给所有 Key 值加双引号例如OPENAI_API_KEYsk-xxxx这样能规避绝大多数解析问题。第三个是镜像拉取缓慢或超时。LibreChat 的镜像本身不大但 MongoDB 镜像接近几百 MB。如果服务器网络不佳建议先设置 Docker 国内镜像加速器或者提前在其他网络环境拉取镜像后导出导入到目标机器。对国内服务器用户这是很现实的一个问题。4.3 使用过程中常见的调试心得部署成功之后真正的挑战是用起来顺手。这里分享几个我优化使用体验的经验。第一合理设置温度参数Temperature和 System Prompt。LibreChat 的每个会话都可以调模型参数温度越低答案越严谨越高越有创造力。做代码审查和文档分析时我习惯把温度设到 0.2 以下做头脑风暴或文案生成时调到 0.8 左右。这个调节面板在会话设置里很多新手没注意默认值在部分模型中可能过于“放飞”导致答案质量下降。第二善用自定义预设 Prompt 来固化自己的提示词技巧。不是我吹牛把写好的几套高质量提示词存成预设之后工作效率至少提升 30%。我自己的常用预设包括“代码重构顾问”“ SQL 优化器”“会议纪要整理员”“文献综述助手”每一条都经过多次打磨效果稳定。特别是团队部署时管理员可以把这些预设分享给所有成员统一大家的提问质量。第三容灾备份很重要。LibreChat 的所有核心数据都在 MongoDB 里包括用户账号、会话历史、预设指令但上传的文件是放在宿主机的 images 目录下。备份时这两块都要覆盖到。我写了一个简单的定时备份脚本每天凌晨用 mongodump 导出数据库同时压缩 images 目录上传到对象存储彻底解决数据丢失焦虑。第四升级要谨慎。LibreChat 的迭代速度较快社区很活跃新版本经常会带来新功能或者修复安全问题。但偶尔也会遇到破坏性变更比如配置文件格式调整、数据库结构变化。我的建议是升级之前先备份 MongoDB 数据再拉取新版本镜像并用docker compose down和docker compose up -d重新创建容器。如果升级后出问题通过备份回滚最多损失几小时的使用时间。开发者还可以关注一个隐藏功能通过.env里的DEBUG_AI_PROVIDERStrue可以开启模型请求的详细调试日志。如果你在处理某个模型返回异常、请求参数映射错误的时候这个开关能把请求发送和响应返回的细节全部打在日志里排查问题的效率瞬间上一个台阶。默认是关闭的正式运行建议保持关闭避免日志膨胀。5. 安全加固与后续扩展建议5.1 对外暴露服务的安全注意事项如果你只是在本机比如自己的笔记本上用 Docker 跑起来局域网内自己访问安全问题还不算突出。但如果你想把它部署到公网 VPS 上或者在公司内网给多人共享那有几件事必须做。第一无论如何不要裸奔 HTTP 端口。建议在前面加一层 Nginx 或 Caddy 反向代理配合 Let‘s Encrypt 免费证书启用 HTTPS。浏览器里的剪贴板读取、摄像头拍照、麦克风输入这些能力在 HTTPS 环境下才能稳定使用。Caddy 的配置极其简单几行就能自动申请和续期证书。第二给 LibreChat 设置访问密码或者做好防火墙白名单。LibreChat 本身有用户登录体系但你仍然应该限制来源 IP。如果条件允许建议不要把它直接暴露在公网 3080 端口上只让反向代理的 443 端口对外其他端口全部关闭。第三定期更新镜像。开源项目的安全补丁通常会及时发布新镜像保持你的版本不过于落后可以有效避免已知漏洞被人利用。特别是你开放了用户注册的情况下更要把安全级别拉满。5.2 与本地模型生态的结合思路我对 LibreChat 最看好的一个扩展方向就是把开源模型和商业模型的优势结合起来用。你可以在同一套界面里既接入 OpenAI 的 GPT-4o又接入本地 Ollama 跑的 Llama 3 或者 Qwen。日常快速问答用本地模型零成本零延迟复杂推理和专业任务切到商业大模型按量计价。LibreChat 天然支持这种灵活切换两边的会话历史还能被我提到过的机制串起来。具体到本地模型选型我个人的推荐是8B 以下的小模型用于摘要、分类、文本改写这些简单任务代表有 Qwen2.5-7B、Llama 3.1-8B如果机器性能够强17B 以上的模型可以尝试更复杂的任务比如代码生成和逻辑推理。要在 LibreChat 里使用这些模型只需按前面提到的 Ollama 配置方式接入即可。模型文件放在宿主机本地推理时也走的是你自己的显卡这对数据敏感型场景来说价值无法估量。5.3 把 LibreChat 变成团队的 AI 协作中枢把延伸思考再放大一步LibreChat 完全可以作为团队 AI 协作的中枢。它的多用户系统已经提供了基础的身份隔离每个用户的会话互不可见。如果你想把某个会话分享给同事LibreChat 生成了分享链接对方可以直接查看而不需要登录。这在内部协作里非常方便。更进一步你还可以利用它导出的 OpenAI 兼容 API 把内部系统接入进来。比如在内部运维平台里接入模型能力让值班机器人通过 LibreChat 的 API 自动调用不同模型处理工单或者在代码仓库的 CI/CD 流程中通过脚本调用 API 自动生成提交说明。由于 API 的抽象层已经统一后面换模型厂商业务代码几乎不用改动。这套玩法如果你深入进去会发现它的价值远不止一个聊天网站那么简单。写在最后的个人体会按我现在的使用习惯LibreChat 已经成了每天打开次数最多的应用之一。它不是那种“看起来很酷但实际吃灰”的开源玩具而是真的能改变工作流的生产力工具。从最初解决“模型太多切换太累”的痛点到后来团队内部用它统一 AI 访问入口再到通过它的 API 做二次开发这个项目越用越觉得潜力大。最后分享一个我自己摸索出来的小技巧在接入了多个模型之后可以在预设指令里写一条“任务路由器”类型的 Prompt把任务描述贴进去让模型判断这个任务更适合哪个模型去处理。虽然不能全自动切换模型但能帮你养成更严谨的选型思维。毕竟每个模型都有自己擅长的领域用对模型效果比盲目追新模型重要得多。如果你已经准备好动手建议直接照着上面的 Docker Compose 方式跑起来先用一个 Key 体验核心功能再逐步扩展。遇到问题也不要着急日志里的报错信息往往已经说明了一切剩下的就是耐心排查。这个项目绝对值得你花一个下午去折腾回报是之后每一天的效率提升。