ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Open WebUI 本地部署:一条命令接上本地大模型(附 GPU 加速写法)

Open WebUI 本地部署:一条命令接上本地大模型(附 GPU 加速写法) Open WebUI 本地部署一条命令接上本地大模型附 GPU 加速写法【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webuiOpen WebUI 是一个自托管的 AI 聊天界面把 Ollama、OpenAI API 这类模型后端装进一个能直接对话的网页里支持完全离线部署。跑完下面这条 Docker 命令浏览器打开就能用。动手之前装之前把这几样备齐后面就不会卡在环境上装好 Docker 且服务在跑docker --version能出版本号宿主机 3000 端口空闲被占了可以换见后文有 NVIDIA GPU 的话装好驱动和 nvidia-container-toolkit模型文件占空间大先确认磁盘有几十 GB 余量一条命令跑起来 这条命令在后台起一个 Open WebUI 容器把 3000 端口映射出来并把数据挂到卷里数据不会丢docker run -d -p 3000:8080 --add-hosthost.docker.internal:host-gateway \ -v open-webui:/app/backend/data --name open-webui --restart always \ ghcr.io/open-webui/open-webui:main有 GPU 就加--gpus all、把镜像标签从:main换成:cuda本地向量检索会走显卡加速。不想用 Docker 也行pip install open-webui后执行open-webui serve效果一样。启动后打开http://localhost:3000注册账号第一个注册的自动是管理员。接上你的模型同一台机器上跑着 Ollama 的话不用改任何参数Open WebUI 会通过host.docker.internal自动找到默认 11434 端口的 Ollama。模型服务在别的机器上就加一个环境变量把地址指过去——这就是你要改的参数docker run -d -p 3000:8080 -e OLLAMA_BASE_URLhttp://your-server:11434 \ -v open-webui:/app/backend/data --name open-webui --restart always \ ghcr.io/open-webui/open-webui:mainOpenAI 兼容的 API 也走这同一个变量改完地址就能在模型列表里直接选不用写一行代码。让它更像你的改什么怎么改不改会怎样端口映射把-p 3000:8080左边换成任意空闲端口3000 被占时容器起不来日志报端口冲突数据持久化保留-v open-webui:/app/backend/data这条挂载容器一删聊天记录和账号全没离线模式加-e HF_HUB_OFFLINE1内网环境启动时卡在外网模型下载上踩坑速查 网页打不开容器没起来→ 3000 端口被占用 → 换-p 8080:8080重新 run界面里 Ollama 显示连接失败→ 容器内解析不到宿主机地址 → 确认命令里带了--add-hosthost.docker.internal:host-gatewayLinux 上必须有:cuda镜像报 GPU 相关错误→ 缺 nvidia-container-toolkit → 装好后加--gpus all重启容器继续深挖想连 Ollama 带 Open WebUI 一起一键拉起看仓库根目录的 docker-compose.yaml想自己改功能、加配置代码都在 backend/open_webui/部署到多人环境前过一遍 docs/SECURITY.md 的加固清单。先跑通最小部署再挑一项配置慢慢调半小时就能改成自己的样子。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表