VPS за self-hosted RAG на мащаб

RAG демо на лаптоп с двеста документа се усеща безусилно. После го насочваш към реален корпус — документите на компания, години тикети, действителна база знания — и цялото нещо става проблем с паметта. Не CPU проблем. Проблем с паметта.

Ето частта, която повечето хостинг страници пропускат: бързият retrieval иска индекса в RAM. Всеки chunk текст става embedding — вектор с ширина от няколко стотин до няколко хиляди числа — и търсенето значи сравняване на заявката ти срещу всички тях, бързо. На диск работи, но всяка заявка плаща такса за латентност, а нископатентният retrieval беше причината да хостваш сам на първо място.

Математиката за оразмеряване, честно

Измери собствения си корпус — размерността и типът индекс люлеят това доста — но като отправен усет:

• Няколко стотин хиляди embeddings — 2–4 GB. Лична база знания. Не се нуждаеш от Pro за това; по-малък план е наред.
• Ниски милиони — с приложението, model клиента и OS-а около него, планирай за 16–32 GB. Сериозна фирмена база знания. Тук Pro-32 или Pro-48 започва да има смисъл.
• Десетки милиони, или високоразмерни вектори — 48 GB и нагоре, и отвъд ~80 GB разделяш индекса през сървъри. Големи документни имоти, multi-tenant retrieval, няколко индекса топли наведнъж.

Написахме пълната RAM крива тук, ако искаш детайлите.

Защо high-memory и no-KYC заедно

Наемането на 48 GB RAM е лесно. Наемането му с crypto и без проверка за самоличност не е — повечето хостове, които продават сериозна памет евтино, го правят зад карта и KYC формуляр. Embeddings-ите ти не са абстрактни числа; те кодират текста, от който са дошли. Твоите документи, съдържанието на клиентите ти, превърнати във вектори. Ако тези данни са достатъчно чувствителни, че плащаш частно, managed vector облак разваля целия смисъл — и същото прави хост, който връзва сървъра със самоличността ти.

Тази комбинация — висока памет, dedicated IP, crypto, без KYC, нощни backup-и — е това, за което Pro линията е. Тя не е най-евтината на гигабайт, и ако не се нуждаеш от поверителност, можеш да намериш RAM по-евтино другаде. Но ако индексът е продуктът ти и не може да напусне, това е формата, която приляга.

Откъде да започнеш

Избери план със запас за индекса плюс всичко около него — приложението, model клиента, място за растеж. За повечето реални корпуси това е Pro-48 (48 GB); голям отива на Pro-64 или Pro-80. Зареди проба първо, гледай паметта, оразмери от числото, което си измерил — не от това, от което си се страхувал.

Ако retrieval-ът ти е част от по-голяма агентска система, същата машина често държи и агентския флот — така план от 48 GB тихо става такъв от 64 GB.