如何在 VPS 上安裝 Ollama（並呼叫其 API）

在 VPS 上安裝 Ollama、拉取一個小模型並呼叫其 HTTP API——並坦誠說明這些是 CPU 機器，所以請堅持使用小型量化模型和嵌入。複製貼上指令，以及如何安全地對外暴露。

Ollama 讓執行本機模型變成一行安裝。這是操作指南；關於 CPU 推理能做什麼、不能做什麼（以及 RAG 的最佳落點）的坦誠說明，請看面向 Ollama 的 VPS 用例和自託管 Ollama。

1. 安裝 Ollama

curl -fsSL https://ollama.com/install.sh | sh

這會安裝 Ollama 並把它作為 systemd 服務啟動，監聽在 localhost:11434。

2. 拉取並執行一個小模型

在 CPU 機器上，從小開始：

ollama pull llama3.2:3b
ollama run llama3.2:3b "Summarize this in one sentence: ..."

3B 模型在 CPU 上真正可用；7–8B 每秒幾個 token（批處理還行，聊天很痛苦）；13B+ 會換頁並爬行——別用。

3. 呼叫 HTTP API

curl http://localhost:11434/api/generate \
  -d '{"model":"llama3.2:3b","prompt":"ping","stream":false}'

嵌入是 CPU 的最佳落點：

ollama pull nomic-embed-text
curl http://localhost:11434/api/embeddings \
  -d '{"model":"nomic-embed-text","prompt":"hello world"}'

4. 保持在 localhost——需要時再安全暴露

Ollama 預設綁定到 127.0.0.1:11434。就讓它留在那裡。 如果您需要從另一台機器存取它，就在專用 IP 方案上於前面放一個帶認證的反向代理（nginx + HTTPS 指南）或使用 SSH 通道——絕不要公開暴露未認證的模型端點。

坦誠的部分

這些是 純 CPU 執行個體（沒有 GPU）。小型量化模型和嵌入執行良好；大模型不行。把 Ollama 與用於私有 RAG 棧的向量資料庫搭配——小型本機嵌入加本機向量儲存，正是在這裡真正出彩的組合。Medium（每月 $12，6 GB） 是舒適的方案。大約一分鐘拿到 root，無 KYC，用加密貨幣付款。

常見問題

如何在 VPS 上安裝 Ollama？

一條指令：curl -fsSL https://ollama.com/install.sh | sh。然後 ollama pull 一個小模型並 ollama run 它，或在 localhost:11434 上呼叫 HTTP API。步驟在下方。在 CPU VPS 上請堅持使用小型量化模型（1B–8B）和嵌入——大模型需要 GPU。

模型在 CPU VPS 上會快嗎？

小的會，大的不會。4 位量化的 7–8B 模型預計每秒幾個 token，而 1–3B 模型和嵌入模型則真正流暢。非常適合背景任務、分類和 RAG 流水線——不適合在大模型上做快速互動式聊天。

我應該把 Ollama 的 API 暴露到網際網路嗎？

不要。把它保持在 localhost:11434。如果需要遠端存取，在專用 IP 方案上把它放在帶認證的反向代理之後，或透過 SSH 通道存取。絕不要把未認證的模型端點暴露到開放網際網路。

我需要哪個方案？

我們的 Medium（每月 $12，6 GB）能舒適地承載小模型和嵌入；Small（$8）可用於測試 1–3B 模型。這些是純 CPU 執行個體——沒有 GPU——所以按模型的記憶體佔用來選規格，而不是寄望於速度。

您們要身分證件或信用卡嗎？

不要。註冊用電子郵件，用 USDC 或 USDT 付款——無檔案、無卡。