agent হোস্টিং নিয়ে সবচেয়ে সাধারণ ভুল হলো একটি agent-এর জন্য size করা। কেউ একটি একক agent চালায়, দেখে সেটি 400 MB ব্যবহার করছে, আর সিদ্ধান্তে আসে agent হোস্ট করা সস্তা। তারপর তারা একটি আসল দলে scale করে আর বক্সটি ভোর 3টায় swap করতে শুরু করে।
একটি agent ই সস্তা। ওটা মজার কেসটা নয়।
memory আসলে কোথায় যায়
যে agent শুধু একটি মডেলে API call ছোড়ে সে হালকা — সে বেশিরভাগ সময় নেটওয়ার্কের অপেক্ষায়। এমন এক ডজন একটি ছোট প্ল্যানে চালান, টেরই পাবেন না।
RAM উধাও হয় যখন agent state ধরে। যে history প্রতি turn-এ বাড়ে। একটি working set যা কয়েকটি agent পড়ে ও লেখে। একই process-এ দীর্ঘমেয়াদি memory-র জন্য একটি vector store। যে মুহূর্তে আর্কিটেকচার "call API, ভুলে যাও" হওয়া থামিয়ে "মনে রাখো, সমন্বয় করো, hand off করো" হয়, তখন memory-ই বাধা — CPU নয়। CrewAI, LangGraph, AutoGPT-ধাঁচের loop সবই গুরুতর হতে হতে এদিকেই ঝোঁকে। ফ্রেমওয়ার্ক RAM খায় না; state খায়। আমরা সংখ্যাগুলো এখানে খুঁটিয়ে দেখেছি।
মোটামুটি sizing
- হালকা, API-নির্ভর agent — আপনার Pro লাগে না; একটি NAT বা dedicated-IP প্ল্যান ($3–20) যথেষ্ট। এই পেজের বাকিটা এড়িয়ে যান।
- একটি আসল দল (5–10 agent) shared memory plus একটি কাজের vector store সহ — Pro-32 (32 GB) হলো sweet spot। বেশিরভাগ fleet এখানেই দাঁড়ায়।
- বড় fleet, দীর্ঘ history, মিলিয়ন-মিলিয়নের একটি memory index — Pro-64 (64 GB)। এখানেই একটি বক্স সেই তিনটি ছোট বক্সের জায়গা নেয় যা আপনি নইলে সামলাতেন।
- fleet plus co-located সার্ভিস, বা agent plus local ইনফারেন্স — Pro-80 (80 GB) পর্যন্ত।
যেখানে দরকার মনে করেন তার নিচে শুরু করুন, একদিন htop দেখুন, swap দেখলে বাড়ান। বেশি অনুমান শুধু টাকা নষ্ট করে।
কেন এই আকারের হোস্ট
যে fleet নিজের সার্ভার provision বা manage করে সে চায় একটি API যা মানব ছাড়াই চালানো যায় — আর ক্রমশ, মানব ছাড়াই পরিশোধও করা যায়। high memory, একটি dedicated IP, ক্রিপ্টো পেমেন্ট, no KYC, আর পুরোটা MCP-র মাধ্যমে একটি agent দিয়ে অর্ডারযোগ্য: সেই সংমিশ্রণ বিরল, আর এর জন্যই Pro লাইন বানানো। এটি প্রতি গিগাবাইটে সবচেয়ে সস্তা নয়, আর আপনার agent হালকা হলে সত্যিই লাগে না। কিন্তু state ধরে ও প্রাইভেসিকে মূল্য দেয় এমন একটি গুরুতর সিস্টেমের জন্য এটাই সঠিক।
সেখানে পৌঁছলে Pro-32 একটি আসল দল কভার করে; fleet বাড়ার সাথে 64 বা 80 GB-তে size করুন।
মন্তব্য
এখনো কোনো মন্তব্য নেই। প্রথম হোন।