我要提问
ARTICLE DETAIL

资讯详情

前沿编程新知与开发实战干货的深度解读。

Open WebUI 离线部署完整指南:无网络环境如何跑起本地 AI 界面

Open WebUI 离线部署完整指南:无网络环境如何跑起本地 AI 界面 Open WebUI 离线部署完整指南无网络环境如何跑起本地 AI 界面【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webuiOpen WebUI 是一个自托管的 AI 网页界面用来连接 Ollama 本地模型或任意 OpenAI 兼容 API做对话、文档知识库问答和管理。它适合两类人一是所处环境完全或经常断网内网隔离机房、野外作业站点需要在断网后继续用 AI 助手的用户二是希望对话记录、上传文档和模型权重全部留在自己机器上的用户。离线部署的完整流程就五步在联网机器备好镜像和模型 → 拷贝到隔离机器 → 导入镜像 → 打开OFFLINE_MODE开关 → 启动验证。断网前该备好的三样东西全部在还能上网的机器上做。先备料再断网比装到一半才发现缺包省心。第一样两个 Docker 镜像。项目随仓库提供的docker-compose.yaml里定义了ollama和open-webui两个服务先把镜像拉下来再导出成 tar 包docker pull ghcr.io/open-webui/open-webui:main docker pull ollama/ollama:latest docker save ghcr.io/open-webui/open-webui:main ollama/ollama:latest \ -o open-webui-offline-images.tar第二样要跑的模型文件。以 Ollama 的 llama3:8b 为例拉取后导出。8B 级别的模型在 16GB 内存的普通 x86 机器上就能跑更大或多模态模型建议配一张显存充足的 GPUollama pull llama3:8b ollama save llama3:8b -f llama3-8b.tar第三样RAG 用的嵌入模型。Open WebUI 的文档知识库依赖sentence-transformers/all-MiniLM-L6-v2这个嵌入模型默认配置写在backend/open_webui/config.py里可用环境变量RAG_EMBEDDING_MODEL覆盖。从 Hugging Face 或国内镜像源把它连同依赖一起下载到本地目录备用后面会讲怎么指给容器。把物料搬到隔离机器并导入用 U 盘或内部文件服务把镜像包、模型包和代码拷过去先拿代码git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui然后分别导入镜像和模型docker load -i open-webui-offline-images.tar ollama load llama3-8b.tar导入完用docker images和ollama list各看一眼两个镜像、一个模型都在就可以继续。打开离线开关再启动关键只有一行OFFLINE_MODEtrue。这个开关在backend/open_webui/env.py里做了两件事——把HF_HUB_OFFLINE置为 1让所有 Hugging Face 相关组件只读本地缓存、不再尝试连外网同时关闭版本更新检查。这是官方内置的离线支持不需要改任何代码。在仓库目录建一个.env把端口和离线开关写进去OPEN_WEBUI_PORT3000 OLLAMA_DOCKER_TAGlatest WEBUI_DOCKER_TAGmain OFFLINE_MODEtrue如果嵌入模型放在自定义目录而不是 HF 默认缓存路径在同一个文件里追加RAG_EMBEDDING_MODEL你的本地模型路径指向它。然后启动docker compose up -dcompose 文件里 open-webui 通过http://ollama:11434访问 ollama两者必须在同一个 compose 项目里启动别拆开单独docker run。启动后怎么验证先看健康接口curl http://localhost:3000/health返回{status: true}说明后端进程正常。接着打开 3000 端口的页面完成首次登录模型列表里选 llama3:8b 发一句话能出回复就说明离线对话链路通了如果要用知识库再传一个 PDF 提问确认嵌入模型加载成功、能引用文档内容。离线场景常见坑⚠️ 新手最常卡在这几处页面能打开但模型列表是空的多半是两个容器没在同一个 compose 网络里open-webui 找不到 ollama。检查docker compose ps里两个服务是否都是 Up。嵌入模型加载报连接超时说明它还在尝试访问 Hugging Face。确认OFFLINE_MODE真的传进了容器docker inspect open-webui | grep OFFLINE_MODE并确认模型文件已在本地缓存或路径已指对。首次启动后第一次提问很慢嵌入模型是首次使用时才加载等一两分钟再下结论别急着重启。升级版本离线升级和首次部署一样联网侧下载新版镜像导出 → 拷入 →docker compose pull跳过、改用本地镜像docker compose up -d --force-recreate数据卷不动聊天记录和知识库不会丢。日常备份也很简单所有对话、上传文件和数据库都落在open-webui卷挂载的/app/backend/data目录里定期把这个目录拷出去即可。更多问题排查可以直接翻仓库里的TROUBLESHOOTING.md配置开关的权威说明在backend/open_webui/env.py需要哪一项就查哪一项。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表