關於「我的 AI 代理需要多大的伺服器？」，誠實的答案是：比您以為的少——直到它突然就不少了。 訣竅在於知道您的負載落在那條線的哪一側。所以與其猜，不如看看每一類代理實際用多少。
一個決定一切的問題
模型是跑在您的伺服器上，還是您的代理透過 API 呼叫一個模型？
如果您的代理跟一個託管 LLM 對話（常見情形），那聰明又昂貴的部分發生在別人的硬體上。您的機器只是跑一個編排迴圈：拿輸入、調 API、解析結果、也許查一次資料庫、重複。那很輕。是真的輕——一台 1 GB 的機器毫不費力就搞定。
如果您在本機跑模型，一切就變了：現在 RAM 被模型權重主導，您會想要能拿到的每一個核。大多數人不需要這個。需要的人通常很清楚自己為什麼需要（隱私、無速率限制、離線）。如果那是您，我們另寫了一篇本機自建 LLM 的指南。
按負載設定
真實的數字，那種您能照著做的：
| 負載 | RAM | vCPU | 磁碟 | 備註 |
|---|---|---|---|---|
| 聊天/助手代理（API 支撐） | 1 GB | 2 | 15 GB | 迴圈很小；模型在遠端 |
| 爬蟲/資料代理 | 2 GB | 2 | 25 GB | 給解析 + 抓取資料留餘量 |
| 交易機器人 | 1–2 GB | 2 | 15–25 GB | 延遲比體量更重要——見交易機器人指南 |
| 並行跑多個代理 | 4 GB | 4 | 35 GB | 每個代理都便宜；同時執行會累加 |
| 本機 LLM，3B–7B（量化） | 4–6 GB | 4–6 | 25–45 GB | 純 CPU，跑得可讀，但不適合大批次 |
規律：API 支撐的代理很小；本機模型才是唯一重的東西。
CPU 機器到哪裡為止
把上限說清楚：我們的標準方案最高到 6 GB 記憶體和 6 核，Pro 系列最高到 80 GB 和 12 vCPU——全部純 CPU，沒有 GPU。 這覆蓋了上表裡的一切，包括個人用的 7B 本機模型。它不覆蓋的是：高吞吐的本機推理，或任何真正需要 GPU 的東西。如果那是您的負載，CPU VPS——無論我們的還是別家的——都是錯的工具，早知道總比部署之後才發現好。
對那 95% 呼叫 API 的代理，這些統統不是問題。它們在最小的機器上就很滿足。
一條實用的經驗法則
- 只是一個調 API 的代理？ 從 1 GB / 2 核起步。以後可以擴容。
- 抓取或存資料？ 2 GB 加更大的磁碟。
- 跑多個代理，或一個小的本機模型？ 4–6 GB 加 4 核以上。
- 需要 GPU？ 那是另一個類別——別硬塞到 CPU 上。
別因為心裡沒底而超配。代理天生輕量；機器太小的代價是擴容一次，而機器太大的代價是每個月為閒置的 RAM 付錢。
選好尺寸後，代理可以透過 MCP 自己租下這台機器，或者您在網站上一分鐘就能下單。無論哪種，先從小的開始——您幾乎肯定會用得比預想的少。
評論
目前還沒有評論。歡迎成為第一位。