Det vanligaste misstaget med agent-hosting är att dimensionera för en agent. Någon kör en enda agent, ser den använda 400 MB, och drar slutsatsen att agenter är billiga att hosta. Sedan skalar de till en riktig besättning och boxen börjar swappa klockan 3 på natten.
En agent är billig. Det är inte det intressanta fallet.
Var minnet faktiskt tar vägen
En agent som bara avfyrar API-anrop mot en modell är lätt — den väntar mestadels på nätverket. Kör ett dussin av dem på ett litet plan och du skulle aldrig märka det.
RAM:et försvinner när agenter håller state. Historik som växer varje tur. En working set som flera agenter läser och skriver. En vektorlagring för långtidsminne i samma process. I det ögonblick arkitekturen slutar vara "anropa API, glöm" och blir "kom ihåg, koordinera, lämna över", är minne begränsningen — inte CPU. CrewAI, LangGraph, AutoGPT-liknande loopar trendar alla åt detta håll när de blir seriösa. Ramverket äter inte RAM:et; staten gör det. Vi grävde i siffrorna här.
Grov dimensionering
- Lätta, API-bundna agenter — du behöver inte Pro; ett NAT- eller dedikerat-IP-plan ($3–20) räcker gott. Hoppa över resten av den här sidan.
- En riktig besättning (5–10 agenter) med delat minne plus en användbar vektorlagring — Pro-32 (32 GB) är sweet spot. De flesta flottor landar här.
- Större flottor, längre historik, en minnesindex i miljoner — Pro-64 (64 GB). Det är här en box ersätter de tre mindre du annars skulle jonglera.
- Flotta plus co-located tjänster, eller agenter plus lokal inferens — upp till Pro-80 (80 GB).
Börja under där du tror att du behöver vara, titta på htop en dag, ändra storlek uppåt när du ser swap. Att gissa högt slösar bara pengar.
Varför denna form av host
En flotta som tillhandahåller eller hanterar sina egna servrar vill ha en API den kan driva utan en människa — och i allt högre grad, att betala utan en också. High memory, en dedikerad IP, kryptobetalning, ingen KYC, och det hela beställbart av en agent via MCP: den kombinationen är sällsynt, och det är vad Pro-linjen är byggd för. Det är inte det billigaste per gigabyte, och om dina agenter är lätta behöver du det verkligen inte. Men för ett seriöst system som håller state och värderar integritet är det rätt passform.
När du är där täcker Pro-32 en riktig besättning; skala upp till 64 eller 80 GB när flottan växer.
Kommentarer
Inga kommentarer än. Bli först.