您同時用著三家模型服務,每家都有自己的聊天視窗、訂閱和歷史記錄。Open WebUI 把它們收攏到一個您自己託管的介面後面:每段對話單獨選模型,所有歷史都留在您的伺服器上,可以和團隊共享,還能在不想讓任何資料離開機器時接入本機模型。
兩種用法
作為 API 的前端。 Open WebUI 能連線任何 OpenAI 相容的 API——託管服務供應商、一個 LiteLLM 代理,或者您自己的端點。伺服器幾乎不幹活;小方案綽綽有餘。
搭配本機模型。 在同一台伺服器上加裝 Ollama,在本機執行開放權重的模型。這時記憶體就成了瓶頸,CPU 推理也很慢。實話實說的取捨是:完全的隱私,一般的速度。
| 設定 | 方案 |
|---|---|
| API 前端,個人使用 | Micro — 2 vCPU、2 GB、每月 $5(SSH 通道) |
| API 前端,團隊透過 HTTPS 存取 | Micro-IP — 2 vCPU、2 GB、每月 $10 |
| 透過 Ollama 執行本機 3B 模型 | AI-Agent — 4 vCPU、4 GB、每月 $10 |
| 本機 7–8B 模型 | Medium — 6 vCPU、6 GB、每月 $12,更大的模型用 Pro 方案 |
用 Docker 安裝
在裝好了 Docker 的伺服器上:
docker run -d --name open-webui --restart always \
-p 127.0.0.1:3000:8080 \
-v open-webui:/app/backend/data \
ghcr.io/open-webui/open-webui:main
綁定到 127.0.0.1 能讓它在您決定怎麼公開之前,都不出現在公用上。聊天記錄、使用者和設定都存在 open-webui 卷裡。
安全地存取
SSH 通道——所有方案都能用,包括 NAT:
ssh -p 22 -N -L 3000:127.0.0.1:3000 you@203.0.113.10
開啟 http://localhost:3000。NAT 方案請使用您的專屬 SSH 埠。
在您的網域上用 HTTPS——適合獨立 IP 方案上的團隊。把一個子網域解析到伺服器(指南),再用 nginx 反向代理,別忘了 WebSocket 頭:
location / {
proxy_pass http://127.0.0.1:3000;
proxy_set_header Host $host;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection upgrade;
proxy_read_timeout 300s;
}
然後執行 certbot --nginx -d chat.example.com。較長的讀取超時很重要:慢模型會連續幾分鐘流式輸出回答。
進去後的第一步
- 馬上註冊。 第一個帳號會成為管理員。別讓剛裝好的執行個體公開晾著——可能被別人搶先佔了。
- 關閉註冊。 管理設定 → 把新使用者的預設角色設為待核准,或者直接關閉註冊。
- 新增連線。 設定 → 連線 → 貼上 API 的基礎 URL 和金鑰。該服務供應商的模型就會出現在模型選擇器裡。
新增本機模型
在主機上安裝 Ollama(我們的指南),拉一個小模型,再以能存取到它的方式啟動 Open WebUI:
ollama pull llama3.2:3b
docker rm -f open-webui
docker run -d --name open-webui --restart always \
-p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway \
-e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
-v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main
有卷在,重新啟動後聊天記錄還在。CPU 上預計每秒幾個 token——寫摘要、記私人筆記可以,寫長文就慢了。更重的本機推理,見 Ollama 專用 VPS。
值得知道
- 更新很頻繁。
docker pull ghcr.io/open-webui/open-webui:main,然後重建容器。先備份卷。 - API 費用您自己出。 Open WebUI 預設不限制每個使用者的用量;和團隊共享時請留意花費。
- 它是聊天應用,不是模型。 回答質量完全取決於背後的模型。
方案限制和升級方式見方案文件。
評論
目前還沒有評論。歡迎成為第一位。