Mycket minne · Pro (RAG, agentflottor, privat LLM)
Retrieval-augmented generation slutar vara en laptop-demo så snart korpuset blir verkligt. En vektorindex vill ha RAM, och dina embeddings är din privata data. Här är dimensioneringsmatematiken och varför high-memory, no-KYC hosting passar. Från $55/mån.
En agent är billig att hosta. En besättning på tio som håller delad state är ett minnesproblem. Att dimensionera en CrewAI/LangGraph-flotta, varför state äter RAM, och var no-KYC high-memory passar. Från $40/mån.
Större kvantiserade modeller behöver riktigt RAM, inte en GPU du inte har. Var en high-memory CPU-box kör 30B-klass-modeller privat, vad som är realistiskt, och var det inte är det. Från $70/mån.