L'errore più comune con l'hosting di agenti è dimensionare per un agente. Qualcuno fa girare un singolo agente, lo guarda usare 400 MB, e conclude che gli agenti sono economici da ospitare. Poi scala a un equipaggio reale e la macchina inizia a fare swap alle 3 di notte.
Un agente è economico. Non è quello il caso interessante.
Dove va davvero la memoria
Un agente che spara solo chiamate API a un modello è leggero — sta per lo più aspettando la rete. Fanne girare una dozzina su un piano piccolo e non lo noteresti mai.
La RAM sparisce quando gli agenti tengono stato. Cronologia che cresce a ogni turno. Un working set che diversi agenti leggono e scrivono. Un vector store per la memoria a lungo termine nello stesso processo. Nel momento in cui l'architettura smette di essere "chiama API, dimentica" e diventa "ricorda, coordina, passa la mano", la memoria è il vincolo — non la CPU. CrewAI, LangGraph, i cicli in stile AutoGPT tendono tutti in questa direzione man mano che diventano seri. Il framework non divora la RAM; lo stato lo fa. Abbiamo approfondito i numeri qui.
Dimensionamento approssimativo
- Agenti leggeri, legati all'API — non ti serve Pro; un piano NAT o con IP dedicato ($3–20) basta e avanza. Salta il resto di questa pagina.
- Un equipaggio reale (5–10 agenti) con memoria condivisa più un utile vector store — Pro-32 (32 GB) è il punto ideale. La maggior parte delle flotte atterra qui.
- Flotte più grandi, cronologie più lunghe, un indice di memoria nei milioni — Pro-64 (64 GB). È qui che una macchina rimpiazza le tre più piccole che altrimenti giostreresti.
- Flotta più servizi co-locati, o agenti più inferenza locale — fino a Pro-80 (80 GB).
Inizia sotto dove pensi di dover essere, guarda htop per un giorno, ridimensiona su quando vedi lo swap. Tirare a indovinare alto spreca solo denaro.
Perché questa forma di host
Una flotta che fa il provisioning o gestisce i propri server vuole un'API che possa guidare senza un umano — e sempre più, pagare senza uno. Alta memoria, un IP dedicato, pagamento in crypto, niente KYC, e il tutto ordinabile da un agente tramite MCP: quella combinazione è rara, ed è ciò per cui è costruita la linea Pro. Non è la più economica per gigabyte, e se i tuoi agenti sono leggeri genuinamente non ti serve. Ma per un sistema serio che tiene stato e valorizza la privacy, è l'abbinamento giusto.
Quando ci sei, Pro-32 copre un equipaggio reale; sali a 64 o 80 GB man mano che la flotta cresce.
Commenti
Ancora nessun commento. Sii il primo.