VPS για self-hosted RAG σε κλίμακα

Ένα demo RAG σε laptop με διακόσια έγγραφα νιώθει αβίαστο. Μετά το στρέφετε σε ένα πραγματικό corpus — τα docs μιας εταιρείας, χρόνια tickets, μια πραγματική βάση γνώσης — και όλο το πράγμα γίνεται πρόβλημα μνήμης. Όχι πρόβλημα CPU. Μνήμης.

Δείτε το μέρος που οι περισσότερες σελίδες hosting παραλείπουν: το γρήγορο retrieval θέλει το index στη RAM. Κάθε chunk κειμένου γίνεται ένα embedding — ένα vector μερικές εκατοντάδες έως μερικές χιλιάδες αριθμούς πλατύ — και η αναζήτηση σημαίνει σύγκριση του query σας με όλα τους, γρήγορα. Στον δίσκο λειτουργεί, αλλά κάθε query πληρώνει έναν φόρο latency, και το χαμηλού-latency retrieval ήταν ο λόγος που κάνατε self-host εξαρχής.

Τα μαθηματικά μεγέθους, έντιμα

Μετρήστε το δικό σας corpus — η διάσταση και ο τύπος index το επηρεάζουν πολύ — αλλά ως σημείο εκκίνησης:

• Μερικές εκατοντάδες χιλιάδες embeddings — 2–4 GB. Μια προσωπική βάση γνώσης. Δεν χρειάζεστε Pro γι' αυτό· ένα μικρότερο πακέτο είναι μια χαρά.
• Χαμηλά εκατομμύρια — με την εφαρμογή, τον client μοντέλου και το OS γύρω του, σχεδιάστε για 16–32 GB. Μια σοβαρή εταιρική βάση γνώσης. Εδώ αρχίζει να βγάζει νόημα το Pro-32 ή Pro-48.
• Δεκάδες εκατομμύρια, ή vectors υψηλής διάστασης — 48 GB και πάνω, και πέρα από ~80 GB χωρίζετε το index σε servers. Μεγάλα σύνολα εγγράφων, multi-tenant retrieval, αρκετά indexes ζεστά ταυτόχρονα.

Γράψαμε την πλήρη καμπύλη RAM εδώ αν θέλετε τις λεπτομέρειες.

Γιατί high-memory και no-KYC μαζί

Η νοικίαση 48 GB RAM είναι εύκολη. Η νοικίασή της με crypto και χωρίς έλεγχο ταυτότητας δεν είναι — οι περισσότεροι hosts που πουλούν σοβαρή μνήμη φθηνά το κάνουν πίσω από μια κάρτα και μια φόρμα KYC. Τα embeddings σας δεν είναι αφηρημένοι αριθμοί· κωδικοποιούν το κείμενο από το οποίο προήλθαν. Τα docs σας, το περιεχόμενο των πελατών σας, μετατραπέντα σε vectors. Αν αυτά τα δεδομένα είναι αρκετά ευαίσθητα ώστε να πληρώνετε ιδιωτικά, ένα managed vector cloud αναιρεί όλο το νόημα — και το ίδιο κάνει ένας host που δένει τον server με την ταυτότητά σας.

Αυτός ο συνδυασμός — υψηλή μνήμη, αποκλειστικό IP, crypto, χωρίς KYC, νυχτερινά backups — είναι αυτό για το οποίο υπάρχει η γραμμή Pro. Δεν είναι το φθηνότερο ανά gigabyte, και αν δεν χρειάζεστε ιδιωτικότητα μπορείτε να βρείτε RAM φθηνότερα αλλού. Αλλά αν το index είναι το προϊόν σας και δεν μπορεί να φύγει, αυτό είναι το σχήμα που ταιριάζει.

Πού να ξεκινήσετε

Επιλέξτε ένα πακέτο με περιθώριο για το index συν όλα γύρω του — την εφαρμογή, τον client μοντέλου, χώρο να μεγαλώσει. Για τα περισσότερα πραγματικά corpora αυτό είναι το Pro-48 (48 GB)· ένα μεγάλο πάει στο Pro-64 ή Pro-80. Φορτώστε ένα δείγμα πρώτα, παρακολουθήστε τη μνήμη, ορίστε το μέγεθος από τον αριθμό που μετρήσατε — όχι αυτόν που φοβηθήκατε.

Αν το retrieval σας είναι μέρος ενός μεγαλύτερου συστήματος πρακτόρων, το ίδιο box συχνά κρατά και τον στόλο πρακτόρων — έτσι ένα πακέτο 48 GB γίνεται αθόρυβα ένα των 64 GB.