在代理託管上我最常見到的錯誤,是照錯東西來設定。有人跑一個代理,它用了 400 MB,於是他斷定代理託管很便宜。然後他擴到一支真正的機隊,機器在凌晨三點開始 swap。
一個代理確實便宜。那不是有意思的情況。
記憶體到底去哪兒了
一個只往模型發 API 呼叫的代理很輕——它大多在等網路。您能在一個小方案上跑十來個而毫無察覺。
RAM 消失在代理開始持有狀態的時候。每一輪都在增長的對話歷史。幾個代理讀寫的一份工作集。一個坐在同一程式裡、用作長期記憶的向量庫。當您的架構從「調 API、忘掉」變成「記住、協調、交接」的那一刻,記憶體就成了約束,而不是 CPU。
CrewAI、LangGraph、AutoGPT 式的迴圈——它們一認真起來都朝這個方向走。吃掉 RAM 的不是框架;是狀態。
大致設定,說實話
我不會假裝有個公式,因為沒有——它完全取決於每個代理留多少東西在身邊。但從跑這些得來的實用感覺:
- 輕量、綁 API 的代理 —— 這裡您根本不需要 Pro;一個 NAT 或獨立IP方案($3–20)就能應付。等共享狀態把您推過約 32 GB 時,Pro 才配得上它的位置。
- 32 GB —— 一個真正多代理系統的甜點:5–10 個帶共享記憶的代理,加一個真正有用的向量資料庫。大多數人落在這裡。
- 64 GB —— 更大的機隊、更長的歷史、一個數以百萬計向量的記憶索引,或幾個服務同機共處。這是一台機器替下您本來要來回折騰的那三台小的地方。
- 80 GB —— 重的、綁記憶體的活:大的記憶體內資料集、許多同時執行代理,或代理加同機上的本機模型推理。
從您以為需要的水平往下起步。盯 htop 看一天。看到 swap 再往上擴,別提前——往高了猜只是浪費錢。
難買的那部分
讓這事變尷尬的是:租 64 GB 的 RAM 很容易。用加密貨幣、不做身分核驗地租 64 GB,就不容易了。大多數便宜賣大記憶體的主機,都把它放在一張卡和一張 KYC 表單後面。
如果您的代理自己開通伺服器,或負載碰到您不太想跟名字掛鉤的資料,那麼那個組合——大記憶體、加密貨幣、免 KYC、且能被代理自己透過 MCP 下單——才是真正的產品。它不是每 GB 更便宜,我另外寫過為什麼那種對比會誤導人。它是以幾乎沒人提供的條件賣的。
那您該怎麼辦
如果您的代理很輕、綁著 API,別想太多——一個小的 NAT 或獨立IP方案就夠了,整個大記憶體問題跳過。如果您在跑一支援有狀態的真機隊,按記憶體裡實際有多少來設定,從 32 GB 起步,等曲線讓您升時再升。
到那時,Pro 系列覆蓋 32 到 80 GB,帶獨立IP 和每夜備份。挑跟您工作集符合的那一檔,而不是跟您雄心符合的那一檔。
評論
目前還沒有評論。歡迎成為第一位。