ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Open WebUI 部署实战:离线接入 Ollama 的本地聊天平台

Open WebUI 部署实战:离线接入 Ollama 的本地聊天平台 Open WebUI 部署实战离线接入 Ollama 的本地聊天平台【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webuiOllama 在内网机器上跑起来之后缺的是一个能多人共用的浏览器界面Open WebUI 部署就是补这一层一个完全离线的自托管 WebUI本地 Ollama 和 OpenAI 兼容 API 都能接。全程只走 Docker 最短路径外加模型接入、认证密钥两件跑起来之后必须做的事最后是验证动作与两个高频坑。它是什么能力与边界它是界面不是算力LLM 的聊天体验层——Markdown/LaTeX 渲染、语音输入、文件上传、知识库 RAG拖进 PDF 直接提问、多模型并行对比。它不训练模型推理依赖外部 Ollama 或 API。完全离线可跑Ollama 加内置推理引擎embedding/rerank能在没有公网的条件下走完 RAG 全流程适合数据不能出内网的场景。多用户开箱即用用户、分组、RBAC、API Key第一个访问者成为管理员小团队直接可用。不适合指望它直接做模型训练或推理没有内置 LLM 推理引擎或把它当纯静态页面用。顶层目录只有几个关键路径值得记backend/— FastAPI 后端所有 API、业务逻辑、配置开关都在这里src/— SvelteKit 前端源码docker-compose.yaml— Ollama WebUI 两个服务的一键编排Makefile— 启动/停止/更新的包装命令TROUBLESHOOTING.md— 常见问题清单30 秒选路Docker 四步启动先按环境对号入座你的环境推荐路径有 DockerCPU 为主求省心docker compose走下面主路径有 Docker带 NVIDIA GPU单条docker run镜像换:cuda标签并加--gpus all无 Docker或要改源码pip install open-webui需 Python 3.11主路径四步拉代码进入项目目录git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui一次性把 Ollama 和 WebUI 拉起来compose 里已把 Ollama 地址配好docker compose up -d确认两个容器都在跑、没有崩溃重启docker compose ps浏览器打开 http://localhost:3000首次访问会引导创建管理员账户到这一步就算通了。无 Docker 的路径两步搞定pip install open-webui # 要求 Python 3.11 open-webui serve # 默认监听 8080 端口KubernetesKustomize/Helm路线面向生产多副本按项目文档的安装章节走即可这里不展开。跑起来之后必须做的 3 件配置1. 接上模型后端。compose 默认已配好OLLAMA_BASE_URLhttp://ollama:11434只差给 Ollama 容器拉一个模型docker exec -it ollama ollama pull qwen2.5:3b远程 Ollama 或 OpenAI 兼容服务vLLM、Groq 等改两个环境变量即可environment: - OLLAMA_BASE_URLhttp://remote-ip:11434 # 远程 Ollama 地址 - OPENAI_API_KEYsk-xxx # 兼容服务密钥 - OPENAI_API_BASE_URLhttps://your-endpoint/v1 # 兼容端点默认指 OpenAI 官方2. 固定会话密钥。没提供WEBUI_SECRET_KEY时start.sh会自动生成 24 字符的密钥写入.webui_secret_key。单容器这样够用多副本或滚动更新时必须用环境变量注入固定值否则重启后登录态失效、各节点会话对不上。3. 关掉自助注册。内网团队使用应只由管理员发账号否则知道地址的人都能注册进来environment: - ENABLE_SIGNUPfalse安全上多说两句3000 端口一旦暴露到公网默认配置只有账户密码这一道防线固定密钥和关闭注册两件事必须在暴露前做完。API KeyENABLE_API_KEYS默认是关的打开后若不配置端点限制持 Key 者可以调用任意接口。跑通了怎么确认没坑按顺序做四个动作curl -s http://localhost:3000/health # 返回 ok 说明后端进程活着 curl -s http://localhost:3000/health/db # 数据库连通性docker compose logs open-webui | grep -i ollama # 应出现连接成功没有反复的连接失败浏览器打开模型页刚拉下来的模型应出现在列表里发一条消息回答流式返回刷新页面后历史仍在最常踩的 2 个坑现象页面报 Server connection error模型列表为空。根因WebUI 是独立容器、Ollama 装在宿主机容器里的127.0.0.1指向容器自己而不是宿主机。一行修复run 命令加--add-hosthost.docker.internal:host-gateway或改用--networkhost并把OLLAMA_BASE_URL指向http://127.0.0.1:11434。现象容器一重建账号和历史全没了。根因漏挂数据卷db.sqlite3落在容器临时文件系统里。一行修复run 命令加-v open-webui:/app/backend/data。后续可以做什么备份数据都在/app/backend/data的 SQLite 里停服后导出即可docker exec open-webui sqlite3 /app/backend/data/db.sqlite3 .dump backup.sql扩展backend/tools/里的 Tools/Filters/Actions 是插件系统入口写一个新工具注册后即可按用户分配升级docker compose pull docker compose up -d数据卷不受影响部署中卡住或发现功能缺口先去项目 Issue 区搜一下没有再开一单通常比在社区等回复快。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表