یک دموی RAG روی لپتاپ با دویست سند بیزحمت بهنظر میرسد. سپس آن را به یک پیکره واقعی اشاره میدهید — اسناد یک شرکت، سالها تیکت، یک پایگاه دانش واقعی — و کل ماجرا به یک مسئله حافظه تبدیل میشود. نه یک مسئله CPU. یک مسئله حافظه.
این بخشی است که بیشتر صفحههای میزبانی رد میکنند: بازیابی سریع شاخص را در RAM میخواهد. هر تکه متن به یک embedding تبدیل میشود — برداری با پهنای چند صد تا چند هزار عدد — و جستجو یعنی مقایسه سریع کوئری شما با همه آنها. روی دیسک کار میکند، اما هر کوئری یک مالیات تأخیر میپردازد، و بازیابی کمتأخیر در وهله اول دلیلی بود که سلفهاست کردید.
حساب ابعاد، صادقانه
پیکره خودتان را اندازه بگیرید — بُعد و نوع شاخص این را خیلی تغییر میدهند — اما بهعنوان یک حس اولیه:
- چند صدهزار embedding — ۲ تا ۴ گیگابایت. یک پایگاه دانش شخصی. برای این به Pro نیاز ندارید؛ یک پلن کوچکتر خوب است.
- چند میلیون — با اپلیکیشن، کلاینت مدل و سیستمعامل کنارش، برای ۱۶ تا ۳۲ گیگابایت برنامهریزی کنید. یک پایگاه دانش جدی شرکتی. اینجا جایی است که Pro-32 یا Pro-48 منطقی میشود.
- دهها میلیون، یا بردارهای با بُعد بالا — ۴۸ گیگابایت و بالاتر، و فراتر از حدود ۸۰ گیگابایت شاخص را روی چند سرور تقسیم میکنید. مجموعههای اسناد بزرگ، بازیابی چند-مستاجری، چند شاخص همزمان داغ.
اگر جزئیات را میخواهید، ما منحنی کامل RAM را اینجا نوشتیم.
چرا حافظه بالا و بدون KYC با هم
اجاره ۴۸ گیگابایت RAM آسان است. اجارهاش با رمزارز و بدون بررسی هویت نه — بیشتر میزبانهایی که حافظه جدی را ارزان میفروشند، این کار را پشت یک کارت و یک فرم KYC میکنند. embeddingهای شما اعداد انتزاعی نیستند؛ متنی را که از آن آمدهاند کدگذاری میکنند. اسناد شما، محتوای مشتریان شما، تبدیلشده به بردار. اگر آن داده بهقدری حساس است که خصوصی پرداخت میکنید، یک ابر برداری مدیریتشده کل نکته را از بین میبرد — و همینطور میزبانی که سرور را به هویت شما گره میزند.
آن ترکیب — حافظه بالا، IP اختصاصی، رمزارز، بدون KYC، پشتیبانگیری شبانه — چیزی است که خط Pro برایش هست. این ارزانترین بهازای هر گیگابایت نیست، و اگر به حریم خصوصی نیاز ندارید میتوانید RAM را جای دیگری ارزانتر پیدا کنید. اما اگر شاخص همان محصول شماست و نمیتواند خارج شود، این شکلی است که مناسب است.
از کجا شروع کنیم
پلنی با فضای خالی برای شاخص بهعلاوه هر چیز کنارش انتخاب کنید — اپلیکیشن، کلاینت مدل، فضا برای رشد. برای بیشتر پیکرههای واقعی این Pro-48 (۴۸ گیگابایت) است؛ یک پیکره بزرگ به Pro-64 یا Pro-80 میرود. اول یک نمونه را بارگذاری کنید، حافظه را تماشا کنید، و از روی عددی که اندازه گرفتید ابعاد را تعیین کنید — نه عددی که از آن میترسیدید.
اگر بازیابی شما بخشی از یک سیستم عامل بزرگتر است، همان سرور اغلب ناوگان عامل را هم نگه میدارد — اینطور است که یک پلن ۴۸ گیگابایتی بیسروصدا به یک پلن ۶۴ گیگابایتی تبدیل میشود.
نظرات
هنوز نظری نیست. اولین نفر باشید.