Yapay zeka ajanları için yüksek bellekli VPS: filonun gerçekten RAM'e ihtiyaç duyduğu an

Ajan barındırmada en sık gördüğüm hata, yanlış şeye göre boyutlandırmak. Birisi tek bir ajan çalıştırır, 400 MB kullanır ve ajanların barındırmasının ucuz olduğu sonucuna varır. Sonra gerçek bir ekibe ölçeklenir ve kutu sabah 3'te swap'a başlar.

Tek ajan ucuzdur. İlginç olan durum bu değil.

Bellek gerçekte nereye gider

Yalnızca bir modele API çağrıları fırlatan bir ajan hafiftir — çoğunlukla ağı bekler. Bunlardan bir düzinesini küçük bir planda çalıştırıp hiç fark etmezsin.

RAM, ajanlar durum tutmaya başladığında kaybolur. Her turda büyüyen konuşma geçmişi. Birkaç ajanın okuyup yazdığı bir çalışma kümesi. Aynı süreçte oturan uzun vadeli bellek için bir vektör deposu. Mimarin "API'yi çağır, unut" olmayı bırakıp "hatırla, koordine et, devret" olduğu an, kısıt CPU değil bellek olur.

CrewAI, LangGraph, AutoGPT tarzı döngüler — ciddileştikçe hepsi bu yöne gider. RAM'i yiyen çerçeve değil; durum.

Kabaca boyutlandırma, dürüstçe

Bir formül varmış gibi yapmayacağım, çünkü yok — tamamen her ajanın ne kadar sakladığına bağlı. Ama bunları çalıştırmaktan gelen pratik bir his:

• Hafif, API'ye bağlı ajanlar — burada Pro'ya hiç ihtiyacın yok; bir NAT ya da özel IP planı ($3–20) bunu halleder. Pro, paylaşımlı durum seni ~32 GB'ın ötesine ittiğinde yerini hak eder.
• 32 GB — gerçek bir çok ajanlı sistem için tam kıvam: paylaşımlı bellekli 5–10 ajan artı gerçekten yararlı bir vektör veritabanı. Çoğu insan buraya iner.
• 64 GB — daha büyük filolar, daha uzun geçmişler, milyonlarca vektörlü bir bellek indeksi ya da bir arada duran birkaç hizmet. Burası, aksi halde uğraşacağın üç küçük kutuyu bir kutunun değiştirdiği yer.
• 80 GB — ağır, belleğe bağlı iş: büyük bellek içi veri kümeleri, çok sayıda eşzamanlı ajan ya da aynı host'ta ajanlar artı yerel model çıkarımı.

İhtiyacın olduğunu düşündüğün yerin altından başla. Bir gün htop'u izle. Swap gördüğünde büyüt, önce değil — yüksek tahmin etmek sadece para israfı.

Satın alması zor olan kısım

İşte bunu tuhaf kılan şey: 64 GB RAM kiralamak kolaydır. 64 GB'ı kripto parayla ve kimlik kontrolü olmadan kiralamak değildir. Ciddi belleği ucuza satan çoğu barındırıcı bunu bir kartın ve bir KYC formunun arkasında yapar.

Ajanın kendi sunucusunu kuruyorsa ya da iş yükü bir isme bağlamak istemeyeceğin veriye dokunuyorsa, o kombinasyon — yüksek bellek, kripto, KYC yok ve ajanın kendisinin MCP üzerinden sipariş edebilmesi — asıl üründür. Gigabayt başına daha ucuz değildir ve bu karşılaştırmanın neden yanılttığını ayrı olarak yazdım. Neredeyse kimsenin sunmadığı koşullarla mevcuttur.

Peki ne yaparsın

Ajanların hafif ve API'ye bağlıysa fazla düşünme — küçük bir NAT ya da özel IP planı fazlasıyla yeter, tüm yüksek bellek sorusunu atla. Durum tutan gerçek bir filo çalıştırıyorsan, gerçekte bellekte ne varsa ona göre boyutlandır, 32 GB'da başla ve grafik söylediğinde yukarı çık.

Oraya geldiğinde, Pro serisi özel IP ve gecelik yedeklerle 32 ila 80 GB'ı kapsar. Hedeflerine değil, çalışma kümene uyan katmanı seç.