High-memory · Pro (RAG, agent fleets, private LLM)
La retrieval-augmented generation smette di essere una demo da laptop una volta che il corpus è reale. Un indice vettoriale vuole RAM, e i tuoi embedding sono i tuoi dati privati. Ecco la matematica del dimensionamento e perché si adatta l'hosting ad alta memoria no-KYC. Da $55/mese.
Un agente è economico da ospitare. Un equipaggio di dieci che tiene stato condiviso è un problema di memoria. Dimensionare una flotta CrewAI/LangGraph, perché lo stato divora RAM, e dove si adatta l'alta memoria no-KYC. Da $40/mese.
I modelli quantizzati più grandi hanno bisogno di RAM vera, non di una GPU che non hai. Dove una macchina CPU ad alta memoria fa girare modelli classe 30B in privato, cosa è realistico, e dove non lo è. Da $70/mese.