د یوه laptop باندې د دوه سوه سندونو سره یو RAG ډیمو بې زحمته احساس کیږي. بیا تاسو یې یوه ریښتیني corpus ته اشاره کوئ — د یوه شرکت اسناد، د کلونو ټکټونه، یو ریښتینی د پوهې بنسټ — او ټول شی یوه د حافظې ستونزه کیږي. نه یوه د CPU ستونزه. یوه د حافظې.
دلته هغه برخه ده چې ډیری کوربهتوب پاڼې یې پریږدي: ګړندۍ retrieval index په RAM کې غواړي. د متن هره ټوټه یو embedding کیږي — یو vector چې د یو څو سوو تر یو څو زرو شمیرو پورې سور دی — او پلټنه پدې معنی چې خپله پوښتنه د دوی ټولو سره پرتله کول، ژر. په ديسک کار کوي، خو هره پوښتنه یو د latency مالیه تادیه کوي، او د-ټیټ-latency retrieval هغه دلیل و چې تاسو په لومړي سر کې ځان-کوربه وکړ.
د اندازهکولو ریاضي، په ریښتیا
خپله corpus اندازه کړئ — سور او د index ډول دا ډیر بدلوي — خو د یوه د پیل احساس په توګه:
- یو څو سوه زره embeddingونه — ۲–۴ GB. یو شخصي د پوهې بنسټ. تاسو د دې لپاره Pro ته اړتیا نلرئ؛ یو کوچنی پلان سم دی.
- ټیټ میلیونونه — د اپلیکیشن، مودل client او OS سره چې شاوخوا یې دي، د ۱۶–۳۲ GB پلان وکړئ. یو جدي د شرکت د پوهې بنسټ. دا هغه ځای دی چیرته چې Pro-32 یا Pro-48 معنی موندل پیلوي.
- لسګونه میلیونونه، یا لوړ-سور vectorونه — ۴۸ GB او پورته، او له ~۸۰ GB پورته تاسو index په سرورونو ویشئ. لوی د سند املاک، څو-مستأجر retrieval، څو indexونه یو ځل تود.
موږ بشپړ د RAM کرښه دلته ولیکه که تاسو جزئیات غواړئ.
ولې لوړه-حافظه او no-KYC یوځای
د ۴۸ GB RAM کرایه کول اسانه دي. د crypto او د هویت کتنې پرته یې کرایه کول نه دي — ډیری هوسټان چې جدي حافظه ارزانه پلوري یې د یوه کارت او یوه KYC فورمې تر شا کوي. ستاسو embeddingونه انتزاعي شمیرې نه دي؛ دوی هغه متن کوډ کوي چې ترې راغلي. ستاسو اسناد، ستاسو د پیرودونکو منځپانګه، vectorونو ته بدل شوي. که هغه ډیټا دومره حساسه وي چې تاسو یې په خصوصي توګه تادیه کوئ، یو اداره شوی vector cloud ټوله موخه ړنګوي — او همدارنګه یو هوسټ چې سرور ستاسو هویت سره تړي.
هغه ترکیب — لوړه حافظه، dedicated IP، crypto، no KYC، شپني بیکاپونه — هغه څه دي چې د Pro کرښه ورته ده. دا د هرې ګیګابایټ ترټولو ارزانه نه ده، او که تاسو محرمیت ته اړتیا نلرئ تاسو کولی شئ RAM بل ځای ارزانه ومومئ. خو که index ستاسو محصول وي او نشي وتلی، دا هغه بڼه ده چې سمون لري.
چیرته پیل وکړئ
یو پلان وټاکئ چې د index سربیره هر څه چې شاوخوا یې دي — اپلیکیشن، مودل client، د ودې ځای — لپاره یې ځای وي. د ډیری ریښتیني corpusونو لپاره دا Pro-48 (۴۸ GB) دی؛ یو لوی Pro-64 یا Pro-80 ته ځي. لومړی یو نمونه بار کړئ، حافظه وګورئ، له هغه شمیرې اندازه کړئ چې مو اندازه کړ — نه هغه چې ترې ویریدلئ.
که ستاسو retrieval د یوه لوی اجنټ سیسټم برخه وي، همدا box ډیری وخت د اجنټ فلیټ هم ساتي — دا هغه څنګه دی چې یو ۴۸ GB پلان په ارامۍ یو ۶۴ GB کیږي.
تبصرې
لا تبصرې نشته. لومړی اوسئ.