Ajan barındırmayla ilgili en yaygın hata, tek bir ajana göre boyutlandırmaktır. Biri tek bir ajan çalıştırır, 400 MB kullandığını görür ve ajanları barındırmanın ucuz olduğu sonucuna varır. Sonra gerçek bir ekibe ölçeklendirir ve kutu gece 3'te swap'lemeye başlar.
Tek bir ajan gerçekten ucuzdur. İlginç olan durum bu değil.
Bellek aslında nereye gidiyor
Bir modele yalnızca API çağrıları fırlatan bir ajan hafiftir — çoğunlukla ağı bekliyordur. Bunlardan bir düzinesini küçük bir planda çalıştırın, fark bile etmezsiniz.
RAM, ajanlar durum tuttuğunda kaybolur. Her turda büyüyen geçmiş. Birkaç ajanın okuyup yazdığı bir çalışma kümesi. Aynı süreçte uzun vadeli bellek için bir vektör deposu. Mimari "API'yi çağır, unut" olmaktan çıkıp "hatırla, koordine et, paslaş" haline geldiği anda, kısıt bellektir — CPU değil. CrewAI, LangGraph, AutoGPT tarzı döngüler ciddileştikçe hep bu yöne kayar. RAM'i çerçeve yemiyor; durum yiyor. Rakamları burada inceledik.
Kaba boyutlandırma
- Hafif, API'ye bağlı ajanlar — Pro'ya ihtiyacınız yok; bir NAT veya özel IP planı ($3–20) fazlasıyla yeter. Bu sayfanın geri kalanını atlayın.
- Gerçek bir ekip (5–10 ajan) ortak bellek artı kullanışlı bir vektör deposu ile — Pro-32 (32 GB) tam kıvamındadır. Çoğu filo burada oturur.
- Daha büyük filolar, daha uzun geçmişler, milyonlarca girdilik bir bellek indeksi — Pro-64 (64 GB). Aksi halde uğraşacağınız üç küçük kutunun yerini tek bir kutunun aldığı yer burasıdır.
- Filo artı aynı yerde barındırılan servisler veya ajanlar artı yerel çıkarım — Pro-80'e (80 GB) kadar.
İhtiyacınız olacağını düşündüğünüzün altından başlayın, bir gün htop'u izleyin, swap gördüğünüzde yukarı boyutlandırın. Yüksekten tahmin etmek sadece para israfıdır.
Bu barındırma biçimi neden
Kendi sunucularını tedarik eden veya yöneten bir filo, insansız sürebileceği bir API ister — ve giderek, insansız ödeme yapabilmeyi de. Yüksek bellek, özel IP, kripto para ödemesi, KYC yok ve tüm bunun MCP üzerinden bir ajan tarafından sipariş edilebilir olması: bu kombinasyon nadirdir ve Pro serisi tam da bunun için kuruldu. Gigabayt başına en ucuzu değildir ve ajanlarınız hafifse buna gerçekten ihtiyacınız yok. Ama durum tutan ve gizliliğe değer veren ciddi bir sistem için doğru uyumdur.
Oraya geldiğinizde, Pro-32 gerçek bir ekibi kapsar; filo büyüdükçe 64 veya 80 GB'ye boyutlandırın.
Yorumlar
Henüz yorum yok. İlk olun.