Kesalahan paling umum dengan hosting agen adalah menentukan ukuran untuk satu agen. Seseorang menjalankan satu agen, melihatnya memakai 400 MB, dan menyimpulkan agen murah untuk di-host. Lalu mereka menskala ke tim nyata dan mesin mulai swap pada jam 3 pagi.
Satu agen memang murah. Itu bukan kasus yang menarik.
Ke mana memori sebenarnya pergi
Agen yang hanya menembakkan panggilan API ke model itu ringan — ia kebanyakan menunggu jaringan. Jalankan selusin dari itu pada paket kecil dan Anda tidak akan pernah menyadarinya.
RAM lenyap saat agen memegang state. Riwayat yang tumbuh tiap giliran. Kumpulan kerja yang dibaca dan ditulis beberapa agen. Penyimpanan vektor untuk memori jangka-panjang di proses yang sama. Begitu arsitektur berhenti menjadi "panggil API, lupakan" dan menjadi "ingat, koordinasikan, serahkan," memori adalah kendalanya — bukan CPU. Loop gaya CrewAI, LangGraph, AutoGPT semuanya cenderung ke arah ini saat menjadi serius. Framework tidak memakan RAM; state-nya yang memakan. Kami menggali angkanya di sini.
Dimensi kasar
- Agen ringan, terikat-API — Anda tidak butuh Pro; paket NAT atau IP-khusus ($3–20) sudah cukup. Lewati sisa halaman ini.
- Tim nyata (5–10 agen) dengan memori bersama plus penyimpanan vektor yang berguna — Pro-32 (32 GB) adalah titik ideal. Kebanyakan armada mendarat di sini.
- Armada lebih besar, riwayat lebih panjang, indeks memori dalam jutaan — Pro-64 (64 GB). Di sinilah satu mesin menggantikan tiga yang lebih kecil yang jika tidak harus Anda kelola bersamaan.
- Armada plus layanan koubikasi, atau agen plus inferensi lokal — hingga Pro-80 (80 GB).
Mulai di bawah tempat Anda pikir Anda perlu, awasi htop selama sehari, ubah ukuran naik saat Anda melihat swap. Menebak tinggi hanya membuang uang.
Mengapa bentuk host ini
Armada yang menyiapkan atau mengelola servernya sendiri mau API yang bisa dijalankannya tanpa manusia — dan semakin, membayar tanpa satu juga. Memori tinggi, IP khusus, pembayaran kripto, tanpa KYC, dan semuanya dapat dipesan agen lewat MCP: kombinasi itu langka, dan itulah untuk apa lini Pro dibangun. Ia bukan yang termurah per gigabyte, dan jika agen Anda ringan Anda benar-benar tidak membutuhkannya. Tapi untuk sistem serius yang memegang state dan menghargai privasi, ia kecocokan yang tepat.
Saat Anda di sana, Pro-32 menutupi tim nyata; naik ke 64 atau 80 GB saat armada tumbuh.
Komentar
Belum ada komentar. Jadilah yang pertama.