−25%

Windows 年繳方案適用,至 10 月 31 日。 檢視方案

EQVPS
開始使用

Open WebUI 專用 VPS:屬於您的大模型私密聊天介面

在 VPS 上託管 Open WebUI,作為任意 OpenAI 相容 API 或本機 Ollama 模型的私密聊天前端:Docker 部署、安全存取和設定選擇。

您同時用著三家模型服務,每家都有自己的聊天視窗、訂閱和歷史記錄。Open WebUI 把它們收攏到一個您自己託管的介面後面:每段對話單獨選模型,所有歷史都留在您的伺服器上,可以和團隊共享,還能在不想讓任何資料離開機器時接入本機模型。

兩種用法

作為 API 的前端。 Open WebUI 能連線任何 OpenAI 相容的 API——託管服務供應商、一個 LiteLLM 代理,或者您自己的端點。伺服器幾乎不幹活;小方案綽綽有餘。

搭配本機模型。 在同一台伺服器上加裝 Ollama,在本機執行開放權重的模型。這時記憶體就成了瓶頸,CPU 推理也很慢。實話實說的取捨是:完全的隱私,一般的速度。

設定方案
API 前端,個人使用Micro — 2 vCPU、2 GB、每月 $5(SSH 通道)
API 前端,團隊透過 HTTPS 存取Micro-IP — 2 vCPU、2 GB、每月 $10
透過 Ollama 執行本機 3B 模型AI-Agent — 4 vCPU、4 GB、每月 $10
本機 7–8B 模型Medium — 6 vCPU、6 GB、每月 $12,更大的模型用 Pro 方案

用 Docker 安裝

在裝好了 Docker 的伺服器上:

docker run -d --name open-webui --restart always \
  -p 127.0.0.1:3000:8080 \
  -v open-webui:/app/backend/data \
  ghcr.io/open-webui/open-webui:main

綁定到 127.0.0.1 能讓它在您決定怎麼公開之前,都不出現在公用上。聊天記錄、使用者和設定都存在 open-webui 卷裡。

安全地存取

SSH 通道——所有方案都能用,包括 NAT:

ssh -p 22 -N -L 3000:127.0.0.1:3000 you@203.0.113.10

開啟 http://localhost:3000。NAT 方案請使用您的專屬 SSH 埠。

在您的網域上用 HTTPS——適合獨立 IP 方案上的團隊。把一個子網域解析到伺服器(指南),再用 nginx 反向代理,別忘了 WebSocket 頭:

location / {
    proxy_pass http://127.0.0.1:3000;
    proxy_set_header Host $host;
    proxy_set_header Upgrade $http_upgrade;
    proxy_set_header Connection upgrade;
    proxy_read_timeout 300s;
}

然後執行 certbot --nginx -d chat.example.com。較長的讀取超時很重要:慢模型會連續幾分鐘流式輸出回答。

進去後的第一步

  1. 馬上註冊。 第一個帳號會成為管理員。別讓剛裝好的執行個體公開晾著——可能被別人搶先佔了。
  2. 關閉註冊。 管理設定 → 把新使用者的預設角色設為待核准,或者直接關閉註冊。
  3. 新增連線。 設定 → 連線 → 貼上 API 的基礎 URL 和金鑰。該服務供應商的模型就會出現在模型選擇器裡。

新增本機模型

在主機上安裝 Ollama(我們的指南),拉一個小模型,再以能存取到它的方式啟動 Open WebUI:

ollama pull llama3.2:3b
docker rm -f open-webui
docker run -d --name open-webui --restart always \
  -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main

有卷在,重新啟動後聊天記錄還在。CPU 上預計每秒幾個 token——寫摘要、記私人筆記可以,寫長文就慢了。更重的本機推理,見 Ollama 專用 VPS。

值得知道

  • 更新很頻繁。 docker pull ghcr.io/open-webui/open-webui:main,然後重建容器。先備份卷。
  • API 費用您自己出。 Open WebUI 預設不限制每個使用者的用量;和團隊共享時請留意花費。
  • 它是聊天應用,不是模型。 回答質量完全取決於背後的模型。

方案限制和升級方式見方案文件。

準備好部署了嗎?以加密貨幣付款,免 KYC——大約一分鐘上線。

立即部署 →

常見問題

Open WebUI 需要多少記憶體?

Open WebUI 本身大約 1 GB 就能跑。如果它只和遠端 API 對話,2 GB 的方案就夠了。真正吃記憶體的是透過 Ollama 執行的本機模型——3B 小模型要 4 GB,7–8B 模型要 6 GB 或更多。

沒有 GPU 的 VPS 能跑本機模型嗎?

能,但要有合理預期。量化後的小模型在 CPU 上每秒能出幾個 token。做短任務和私下試驗沒問題,要快速來回、回答又長的聊天就不合適了。

NAT 方案能用嗎?

能,透過您專屬 SSH 埠上的 SSH 通道使用。如果想要一個團隊能在瀏覽器裡開啟的公開 HTTPS 位址,就需要獨立 IP 方案。

誰可以建立帳號?

第一個註冊的帳號會成為管理員。之後請在管理設定裡把新註冊設為待核准或直接關閉,否則任何找到 URL 的人都能註冊帳號。

我的對話存在哪裡?

存在您伺服器上的一個 Docker 卷裡。除了您發給所連線模型 API 的提示詞,什麼都不會交給第三方。

評論

目前還沒有評論。歡迎成為第一位。

發表評論

評論在顯示前會經過審核。