Veel geheugen · Pro (RAG, agentvloten, privé LLM)
Retrieval-augmented generation houdt op een laptop-demo te zijn zodra het corpus echt wordt. Een vector-index wil RAM, en je embeddings zijn je private data. Hier is de dimensioneringsrekensom en waarom high-memory, no-KYC hosting past. Vanaf $55/mnd.
Eén agent is goedkoop te hosten. Een crew van tien die gedeelde state vasthoudt is een geheugenprobleem. Een CrewAI/LangGraph-vloot dimensioneren, waarom state RAM opeet, en waar no-KYC high-memory past. Vanaf $40/mnd.
Grotere gequantiseerde modellen hebben echte RAM nodig, geen GPU die je niet hebt. Waar een high-memory CPU-box 30B-klasse modellen privé draait, wat realistisch is, en waar niet. Vanaf $70/mnd.