VPS pentru RAG găzduit de tine, la scară

Retrieval-augmented generation nu mai e o demonstrație pe laptop din momentul în care corpusul e real. Un index vectorial vrea RAM, iar embeddings-urile tale sunt datele tale private. Iată socoteala dimensionării și de ce se potrivește hostingul cu multă memorie, fără KYC. De la $55/lună.

O demonstrație RAG pe laptop, cu două sute de documente, pare fără efort. Apoi o îndrepți spre un corpus real — documentația unei companii, ani de tichete, o bază de cunoștințe adevărată — și totul devine o problemă de memorie. Nu de CPU. De memorie.

Iată partea pe care o sar majoritatea paginilor de hosting: regăsirea rapidă vrea indexul în RAM. Fiecare fragment de text devine un embedding — un vector de la câteva sute până la câteva mii de numere — iar căutarea înseamnă să compari rapid interogarea cu toate. De pe disc merge, dar fiecare interogare plătește o taxă de latență, iar latența mică era chiar motivul pentru care ai ales să găzduiești singur.

Socoteala dimensionării, cinstit

Măsoară-ți propriul corpus — dimensiunea și tipul de index schimbă mult cifrele — dar ca punct de plecare:

Câteva sute de mii de embeddings — 2–4 GB. O bază de cunoștințe personală. Nu ai nevoie de Pro pentru asta; un plan mai mic e în regulă.
Câteva milioane — cu aplicația, clientul modelului și sistemul în jur, planifică 16–32 GB. O bază de cunoștințe serioasă de companie. Aici încep să aibă sens Pro-32 sau Pro-48.
Zeci de milioane sau vectori de dimensiune mare — 48 GB și peste, iar dincolo de ~80 GB împarți indexul pe mai multe servere. Arhive mari de documente, regăsire pentru mai mulți clienți, mai multe indexuri active deodată.

Am scris aici curba completă a RAM-ului, dacă vrei detaliile.

De ce memorie multă și fără KYC, împreună

Să închiriezi 48 GB de RAM e ușor. Să-i închiriezi cu cripto și fără verificarea identității — nu: majoritatea hosturilor care vând ieftin memorie serioasă o fac în spatele unui card și al unui formular KYC. Embeddings-urile tale nu sunt numere abstracte; codifică textul din care provin. Documentele tale, conținutul clienților tăi, transformate în vectori. Dacă datele sunt destul de sensibile încât plătești în mod privat, un cloud vectorial gestionat anulează tot rostul — la fel și un host care leagă serverul de identitatea ta.

Combinația asta — memorie multă, IP dedicat, cripto, fără KYC, backup-uri în fiecare noapte — e scopul liniei Pro. Nu e cea mai ieftină per gigaoctet, iar dacă nu ai nevoie de intimitate, găsești RAM mai ieftin în altă parte. Dar dacă indexul este produsul tău și nu are voie să plece, asta e forma potrivită.

De unde să pornești

Alege un plan cu loc pentru index plus tot ce e în jurul lui — aplicația, clientul modelului, spațiu de creștere. Pentru majoritatea corpusurilor reale asta înseamnă Pro-48 (48 GB); unul mare merge pe Pro-64 sau Pro-80. Încarcă întâi un eșantion, urmărește memoria și dimensionează după cifra măsurată — nu după cea de care te temeai.

Dacă regăsirea face parte dintr-un sistem de agenți mai mare, același server ține adesea și flota de agenți — așa devine discret un plan de 48 GB unul de 64 GB.

Gata de deploy? Plătește cu cripto, fără KYC — online în aproximativ un minut.

Pornește acum →

Întrebări frecvente

De câtă RAM are nevoie de fapt setup-ul meu RAG?

Crește cu numărul de embeddings și cu lățimea vectorilor. Câteva sute de mii de fragmente încap în 2–4 GB; câteva milioane, cu aplicația și sistemul în jur, ajung la 16–32 GB; zeci de milioane urcă la 48 GB și peste. Măsoară un eșantion, urmărește memoria rezidentă, extrapolează — nu ghici prea sus, doar plătești în plus.

De ce să nu folosesc un serviciu vectorial gestionat?

Două motive pentru care oamenii chiar găzduiesc singuri: embeddings-urile codifică date private (documente, notițe, conținutul clienților), deci contează să stea pe o mașină controlată de tine; iar costul e fix — un serviciu gestionat taxează după vectori și interogări, un VPS e o singură sumă lunară pe care o poți solicita oricât.

pgvector sau un motor dedicat?

Dacă rulezi deja Postgres, pgvector e drumul cu cel mai mic efort — o singură extensie. Pentru milioane de vectori cu filtrare grea, un motor construit special, ca Qdrant, își merită serviciul propriu. Pornește cu ce administrezi deja; separă-l când căutarea încetinește, nu înainte.

Am nevoie de GPU pentru RAG?

Nu. Regăsirea e muncă de CPU + RAM — compari vectori, nu generezi text. Pasul de generare apelează LLM-ul tău (un API sau un host separat pentru model). Un server CPU cu multă memorie are exact forma potrivită pentru jumătatea de regăsire.

Comentarii

Încă nu există comentarii. Fii primul.