Den mest almindelige fejl med agent-hosting er at dimensionere til én agent. Nogen kører en enkelt agent, ser den bruge 400 MB og konkluderer, at agenter er billige at hoste. Så skalerer de til en rigtig besætning, og boksen begynder at swappe kl. 3 om natten.
Én agent er billig. Det er ikke det interessante tilfælde.
Hvor hukommelsen faktisk går hen
En agent, der kun fyrer API-kald af mod en model, er let — den venter mest på netværket. Kør et dusin af dem på en lille plan, og du ville aldrig lægge mærke til det.
RAM'en forsvinder, når agenter holder state. Historik, der vokser hver tur. Et working set, flere agenter læser og skriver. Et vektor-store til langtidshukommelse i samme proces. I det øjeblik arkitekturen holder op med at være "kald API, glem" og bliver "husk, koordinér, overdrag," er hukommelse begrænsningen — ikke CPU. CrewAI, LangGraph, AutoGPT-stil-loops trender alle denne vej, når de bliver seriøse. Frameworket æder ikke RAM'en; staten gør. Vi gravede i tallene her.
Grov dimensionering
- Lette, API-bundne agenter — du behøver ikke Pro; en NAT- eller dedikeret-IP-plan ($3–20) er rigeligt. Spring resten af denne side over.
- En rigtig besætning (5–10 agenter) med delt hukommelse plus et nyttigt vektor-store — Pro-32 (32 GB) er sweet spot. De fleste flåder lander her.
- Større flåder, længere historik, et hukommelsesindeks i millionerne — Pro-64 (64 GB). Det er her, én boks erstatter de tre mindre, du ellers ville jonglere.
- Flåde plus co-lokaliserede tjenester, eller agenter plus lokal inferens — op til Pro-80 (80 GB).
Start under, hvor du tror, du skal være, hold øje med htop en dag, resize op, når du ser swap. At gætte højt spilder bare penge.
Hvorfor denne form af vært
En flåde, der klargør eller administrerer sine egne servere, vil have et API, den kan drive uden et menneske — og i stigende grad betale uden et også. Høj hukommelse, en dedikeret IP, kryptobetaling, ingen KYC, og det hele bestilbart af en agent via MCP: den kombination er sjælden, og det er, hvad Pro-linjen er bygget til. Den er ikke den billigste pr. gigabyte, og hvis dine agenter er lette, har du genuint ikke brug for den. Men til et seriøst system, der holder state og værdsætter privatliv, er den den rette pasform.
Når du er der, dækker Pro-32 en rigtig besætning; dimensionér op til 64 eller 80 GB, efterhånden som flåden vokser.
Kommentarer
Ingen kommentarer endnu. Vær den første.