هره RAG ټیوټوریل په یوه laptop د یو څو سوو سندونو سره چلیږي، او دا بې زحمته احساس کیږي. بیا تاسو یې یوې ریښتیني corpus ته اشاره کوئ — د یوه شرکت اسناد، د کلونو ټکټونه، یو د پوهې بنسټ — او ناڅاپه حافظه ټوله خبره ده.
RAG د CPU له مخې نه اندازه کیږي. دا د RAM له مخې اندازه کیږي.
ولې index حافظه غواړي
Retrieval د متن هره ټوټه یو embedding ته اړولو له لارې کار کوي — یو vector، د یو څو سوو تر یو څو زرو شمیرو اوږد. پلټنه پدې معنی چې ستاسو د پوښتنې vector د دوی ټولو سره پرتله کول، ژر. «ژر» عملیاتي کلمه ده: د ټیټ latency لپاره index باید په RAM کې اوسیږي. په ديسک کار کوي، خو هره پوښتنه یو جریمه تادیه کوي، او د-ټیټ-latency retrieval په لومړي سر کې د ځان-کوربهتوب موخه وه.
نو د حافظې بل د دوو شیانو سره اندازه کیږي: تاسو څومره ټوټې لرئ، او هر vector څومره سور دی.
ریښتیني شمیرې، نږدې
خپل اندازه کړئ — سور او د index ډول دا ډیر حرکت ورکوي — خو د یوه د پیل احساس په توګه:
- یو څو سوه زره embeddingونه — په 2–4 GB کې آرام. یو شخصي د پوهې بنسټ، د یوه محصول اسناد.
- ټیټ میلیونونه — د اپلیکیشن، مودل client، او OS سره چې شاوخوا یې دي، د 16–32 GB لپاره پلان وکړئ. دا یو جدي د شرکت د پوهې بنسټ یا یو څو-سرچینه RAG دی.
- لسګونه میلیونونه، یا لوړ-سور vectorونه — اوس تاسو په 48–80 GB کې یاست، او له هغه پورته د څو boxونو په اوږدو کې. لوی د سند املاک، څو-مستأجر retrieval، یا تاسو څو indexونه یو ځل تود ساتئ.
یو څو-اجنټ سیسټم چې یو لوی index هم ساتي دواړه لګښتونه په همدې box کیږدي — دا هغه څنګه دی چې یو 32 GB پلان په ارامۍ یو 64 GB کیږي.
د engine انتخاب، په لنډه توګه
که تاسو لا دمخه Postgres چلوئ، pgvector د-لږترلږه-هڅې انتخاب دی — دا یو توسیع دی، نه یو نوی خدمت چې ماشومساتنه یې کوئ. کله چې تاسو میلیونونه vectorونه لرئ او ګړندۍ فلټر شوې پلټنه غواړئ، یو dedicated engine لکه Qdrant یا Weaviate جلا پروسس ګټي. په لومړۍ ورځ یې مه ډیر-انجینري کوئ؛ هغه وچلوئ چې لا دمخه یې چلوئ او جلا یې کړئ کله چې پلټنه واقعاً ورو شي.
ولې د ځان-کوربهتوب زحمت
دوه دلایل چې خلک یې واقعاً کوي، او هیڅ یو یې «د یو څو ډالرو سپما لپاره» نه دی:
محرمیت. Embeddingونه انتزاعي نه دي — دوی هغه متن کوډ کوي چې ترې راغلي. ستاسو اسناد، ستاسو د پیرودونکو منځپانګه، ستاسو داخلي یادښتونه، vectorونو ته اړول شوي او د یوې دریمې ډلې سرورونو ته لیږل شوي. ځان-کوربهتوب هغه په یوه ماشین ساتي چې تاسو یې کنټرولوئ. که ډیټا دومره حساسه وي چې تاسو هم په crypto بې KYC تادیه کوئ، یو اداره شوی vector cloud ټوله موخه ړنګوي.
فلیټ لګښت. اداره شوي vector خدمتونه د زیرمه شوو vectorونو او چلول شوو پوښتنو له مخې بل کوي. یو VPS یو میاشتنی شمیر دی او تاسو کولی شئ هرومرو یې وهئ. په مقیاس، د وړاندوینې وړ د میټر څخه غوره دی.
دا د اندازهکولو لپاره څه معنی لري
د خپل corpus په اندازه کولو پیل وکړئ، نه په اټکل. خپل د embedding شمیر او سور ترلاسه کړئ، یو نمونه بار کړئ، اوسیدونکې حافظه وګورئ، برونیابي وکړئ. بیا یو پلان وټاکئ چې د index سربیره د هر شي لپاره چې شاوخوا یې دي — اپلیکیشن، مودل client، د ودې ځای — ځای ولري.
د هر څه لپاره چې د یو څو میلیون vectorونو پورته په خصوصي توګه ساتل کیږي، د Pro کرښه ۳۲ تر ۸۰ GB د یوه dedicated IP او شپنیو بیکاپونو سره چلوي، چې مهم دی کله چې index همدا محصول وي او د هغه ورکول درد کوي.
تبصرې
لا تبصرې نشته. لومړی اوسئ.