رایجترین اشتباه در میزبانی ایجنت، اندازهگذاری برای یک ایجنت است. کسی یک ایجنت تکی اجرا میکند، میبیند ۴۰۰ مگابایت مصرف میکند، و نتیجه میگیرد میزبانی ایجنت ارزان است. بعد به یک تیم واقعی مقیاس میدهد و سرور ساعت سه بامداد شروع به swapکردن میکند.
یک ایجنت واقعاً ارزان است. آن حالت جالبی نیست.
حافظه واقعاً کجا میرود
ایجنتی که فقط فراخوانی API به سمت یک مدل شلیک میکند سبک است — بیشتر منتظر شبکه است. یک دوجین از اینها را روی یک پلن کوچک اجرا کنید و اصلاً متوجه نمیشوید.
RAM وقتی ناپدید میشود که ایجنتها وضعیت نگه میدارند. تاریخچهای که هر نوبت رشد میکند. یک working set که چند ایجنت از آن میخوانند و در آن مینویسند. یک vector store برای حافظهٔ بلندمدت در همان پروسه. لحظهای که معماری از «فراخوانی API، فراموش» به «بهیادسپاری، هماهنگی، تحویل» تبدیل میشود، حافظه محدودیت است — نه CPU. حلقههای سبک CrewAI، LangGraph و AutoGPT همه با جدیترشدن به این سمت میروند. فریمورک RAM را نمیخورد؛ وضعیت میخورد. ما اینجا اعداد را کاویدیم.
اندازهگذاری تقریبی
- ایجنتهای سبک و وابسته به API — به Pro نیاز ندارید؛ یک پلن NAT یا با IP اختصاصی (۳ تا ۲۰ دلار) کافی است. بقیهٔ این صفحه را رد کنید.
- یک تیم واقعی (۵ تا ۱۰ ایجنت) با حافظهٔ مشترک بههمراه یک vector store کارآمد — Pro-32 (۳۲ گیگابایت) نقطهٔ ایدهآل است. بیشتر ناوگانها همینجا فرود میآیند.
- ناوگانهای بزرگتر، تاریخچههای طولانیتر، یک ایندکس حافظه در حد میلیونها — Pro-64 (۶۴ گیگابایت). اینجا جایی است که یک سرور جای سه سرور کوچکتری را میگیرد که وگرنه باید همزمان میچرخاندید.
- ناوگان بههمراه سرویسهای هممکان، یا ایجنتها بههمراه استنتاج محلی — تا Pro-80 (۸۰ گیگابایت).
پایینتر از جایی که فکر میکنید لازم دارید شروع کنید، یک روز htop را تماشا کنید، وقتی swap دیدید بزرگترش کنید. بالا حدسزدن فقط پول هدر میدهد.
چرا این شکل از سرور
ناوگانی که سرورهای خودش را تأمین یا مدیریت میکند، یک API میخواهد که بتواند بدون انسان آن را براند — و بهطور فزاینده، بخواهد بدون انسان هم پرداخت کند. حافظهٔ بالا، یک IP اختصاصی، پرداخت با رمزارز، بدون KYC، و کل ماجرا قابل سفارش توسط یک ایجنت از طریق MCP: آن ترکیب نادر است، و همان چیزی است که خط Pro برایش ساخته شده. این ارزانترین بهازای هر گیگابایت نیست، و اگر ایجنتهایتان سبکاند واقعاً به آن نیاز ندارید. اما برای یک سیستم جدی که وضعیت نگه میدارد و به حریم خصوصی ارزش میدهد، انتخاب درستی است.
وقتی به آنجا رسیدید، Pro-32 یک تیم واقعی را پوشش میدهد؛ با رشد ناوگان به ۶۴ یا ۸۰ گیگابایت بزرگترش کنید.
نظرات
هنوز نظری نیست. اولین نفر باشید.