Multă memorie · Pro (RAG, flote de agenți, LLM privat)
Retrieval-augmented generation nu mai e o demonstrație pe laptop din momentul în care corpusul e real. Un index vectorial vrea RAM, iar embeddings-urile tale sunt datele tale private. Iată socoteala dimensionării și de ce se potrivește hostingul cu multă memorie, fără KYC. De la $55/lună.
Un agent e ieftin de găzduit. O echipă de zece cu stare comună e o problemă de memorie. Cum dimensionezi o flotă CrewAI/LangGraph, de ce starea mănâncă RAM și unde se potrivește memoria mare fără KYC. De la $40/lună.
Modelele cuantizate mai mari au nevoie de RAM real, nu de un GPU pe care nu-l ai. Unde un server CPU cu multă memorie rulează privat modele de clasa 30B, ce e realist și ce nu. De la $70/lună.