agent ہوسٹنگ کے ساتھ سب سے عام غلطی ایک agent کے لیے size کرنا ہے۔ کوئی ایک واحد agent چلاتا ہے، اسے 400 MB استعمال کرتے دیکھتا ہے، اور نتیجہ نکالتا ہے کہ agents ہوسٹ کرنا سستا ہے۔ پھر وہ ایک حقیقی عملے تک scale کرتے ہیں اور باکس رات 3 بجے swap کرنے لگتا ہے۔
ایک agent ہی سستا ہے۔ وہ دلچسپ کیس نہیں۔
memory دراصل کہاں جاتی ہے
جو agent صرف ایک ماڈل پر API کالز داغتا ہے وہ ہلکا ہے — یہ زیادہ تر نیٹ ورک کا منتظر رہتا ہے۔ ایسے ایک درجن ایک چھوٹے پلان پر چلائیں اور آپ کبھی محسوس نہیں کریں گے۔
RAM تب غائب ہوتی ہے جب agents state رکھتے ہیں۔ history جو ہر turn پر بڑھتی ہے۔ ایک working set جسے کئی agents پڑھتے اور لکھتے ہیں۔ اسی process میں طویل مدتی memory کے لیے ایک vector store۔ جس لمحے آرکیٹیکچر "call API، بھول جاؤ" ہونا چھوڑ کر "یاد رکھو، coordinate کرو، hand off کرو" بن جاتا ہے، memory رکاوٹ ہے — CPU نہیں۔ CrewAI، LangGraph، AutoGPT-طرز کی loops سب سنجیدہ ہوتے ہی اسی طرف جھکتی ہیں۔ فریم ورک RAM نہیں کھاتا؛ state کھاتا ہے۔ ہم نے نمبروں میں یہاں کھدائی کی۔
موٹی sizing
- ہلکے، API-پابند agents — آپ کو Pro کی ضرورت نہیں؛ ایک NAT یا dedicated-IP پلان ($3–20) کافی ہے۔ اس صفحے کا باقی چھوڑ دیں۔
- ایک حقیقی عملہ (5–10 agents) shared memory plus ایک مفید vector store کے ساتھ — Pro-32 (32 GB) sweet spot ہے۔ زیادہ تر fleets یہاں آتے ہیں۔
- بڑے fleets، طویل histories، ملین-ملین کا ایک memory index — Pro-64 (64 GB)۔ یہاں ایک باکس اُن تین چھوٹے باکسز کی جگہ لیتا ہے جنہیں آپ ورنہ سنبھالتے۔
- fleet plus co-located سروسز، یا agents plus مقامی inference — Pro-80 (80 GB) تک۔
جہاں آپ سمجھتے ہیں ضرورت ہے اس سے نیچے شروع کریں، ایک دن htop دیکھیں، swap دیکھنے پر بڑھائیں۔ زیادہ اندازہ صرف پیسہ ضائع کرتا ہے۔
اس شکل کا ہوسٹ کیوں
جو fleet اپنے سرورز خود تیار یا منظم کرتا ہے وہ ایک ایسا API چاہتا ہے جسے وہ ایک انسان کے بغیر چلا سکے — اور بڑھتے ہوئے، ایک کے بغیر ادا بھی کرے۔ high memory، ایک dedicated IP، کرپٹو ادائیگی، no KYC، اور پوری چیز MCP کے ذریعے ایک agent سے قابلِ آرڈر: وہ امتزاج نایاب ہے، اور اسی کے لیے Pro لائن بنی۔ یہ فی گیگابائٹ سب سے سستا نہیں، اور اگر آپ کے agents ہلکے ہیں تو آپ کو واقعی اس کی ضرورت نہیں۔ لیکن ایک سنجیدہ سسٹم کے لیے جو state رکھتا اور پرائیویسی کو اہمیت دیتا ہے، یہ درست موزوں ہے۔
جب آپ وہاں ہوں، Pro-32 ایک حقیقی عملے کو کور کرتا ہے؛ fleet بڑھنے کے ساتھ 64 یا 80 GB تک بڑھائیں۔
تبصرے
ابھی کوئی تبصرہ نہیں۔ پہلے بنیں۔