Najczęstszym błędem przy hostowaniu agentów jest dobieranie rozmiaru pod jednego agenta. Ktoś uruchamia pojedynczego agenta, widzi, że zużywa 400 MB, i wnioskuje, że agenci są tani w hostowaniu. Potem skaluje do prawdziwej drużyny i maszyna zaczyna swapować o 3 nad ranem.
Jeden agent jest tani. To nie jest interesujący przypadek.
Gdzie faktycznie znika pamięć
Agent, który tylko wystrzeliwuje wywołania API do modelu, jest lekki — głównie czeka na sieć. Uruchom kilkanaście takich na małym planie, a nigdy byś nie zauważył.
RAM znika, gdy agenci trzymają stan. Historia rosnąca z każdą turą. Zbiór roboczy, który kilku agentów czyta i zapisuje. Magazyn wektorowy dla pamięci długoterminowej w tym samym procesie. W chwili, gdy architektura przestaje być „zawołaj API, zapomnij”, a staje się „pamiętaj, koordynuj, przekaż”, pamięć jest ograniczeniem — nie CPU. CrewAI, LangGraph, pętle w stylu AutoGPT wszystkie zmierzają w tę stronę, gdy stają się poważne. Framework nie zjada RAM; zjada go stan. Zagłębiliśmy się w liczby tutaj.
Zgrubne dobieranie
- Lekcy agenci ograniczeni przez API — nie potrzebujesz Pro; plan NAT lub z dedykowanym IP (3–20 $) w zupełności wystarczy. Pomiń resztę tej strony.
- Prawdziwa drużyna (5–10 agentów) ze wspólną pamięcią plus użyteczny magazyn wektorowy — Pro-32 (32 GB) to wygodny wybór. Większość flot tu ląduje.
- Większe floty, dłuższe historie, indeks pamięci w milionach — Pro-64 (64 GB). To tu jedna maszyna zastępuje trzy mniejsze, którymi inaczej byś żonglował.
- Flota plus współlokowane usługi lub agenci plus lokalna inferencja — do Pro-80 (80 GB).
Zacznij poniżej tego, co myślisz, że potrzebujesz, obserwuj htop przez dzień, zwiększ rozmiar, gdy zobaczysz swap. Zgadywanie w górę tylko marnuje pieniądze.
Dlaczego taki kształt hosta
Flota, która przygotowuje lub zarządza własnymi serwerami, chce API, które może sterować bez człowieka — a coraz częściej też płacić bez niego. Duża pamięć, dedykowane IP, płatność kryptowalutą, bez KYC i całość zamawialna przez agenta przez MCP: ta kombinacja jest rzadka, i to jest to, do czego zbudowana jest linia Pro. To nie najtańsze na gigabajt, i jeśli Twoi agenci są lekcy, naprawdę tego nie potrzebujesz. Ale dla poważnego systemu, który trzyma stan i ceni prywatność, to właściwe dopasowanie.
Gdy tam jesteś, Pro-32 obejmuje prawdziwą drużynę; zwiększaj rozmiar do 64 lub 80 GB, gdy flota rośnie.
Komentarze
Brak komentarzy. Bądź pierwszy.