ข้อผิดพลาดที่ฉันเห็นบ่อยที่สุดกับการโฮสต์ agent คือการกำหนดขนาดสำหรับสิ่งผิด บางคนรัน agent ตัวเดียว มันใช้ 400 MB และสรุปว่า agent โฮสต์ราคาถูก จากนั้นขยายไปสู่กลุ่มจริงและเครื่องเริ่ม swap ตอนตีสาม
agent ตัวเดียวราคาถูกจริง นั่นไม่ใช่กรณีที่น่าสนใจ
หน่วยความจำหายไปไหนจริง ๆ
agent ที่แค่ยิงการเรียก API ไปยังโมเดลนั้นเบา — ส่วนใหญ่รอเครือข่าย คุณรันสักโหลบนแพ็กเกจเล็กได้โดยไม่สังเกตเลย
RAM หายไปเมื่อ agent เริ่ม ถือสถานะ ประวัติบทสนทนาที่โตทุกรอบ working set ที่หลาย agent อ่านและเขียน vector store สำหรับหน่วยความจำระยะยาวที่นั่งในโปรเซสเดียวกัน ทันทีที่สถาปัตยกรรมของคุณหยุดเป็น "เรียก API ลืม" และกลายเป็น "จำ ประสานงาน ส่งต่อ" หน่วยความจำกลายเป็นข้อจำกัด ไม่ใช่ CPU
CrewAI, LangGraph, ลูปแบบ AutoGPT — ล้วนมุ่งไปทางนี้เมื่อจริงจังขึ้น เฟรมเวิร์กไม่ได้กิน RAM สถานะต่างหาก
การกำหนดขนาดคร่าว ๆ อย่างตรงไปตรงมา
ฉันจะไม่แสร้งว่ามีสูตร เพราะไม่มี — มันขึ้นอยู่ทั้งหมดกับว่าแต่ละ agent เก็บอะไรไว้มากแค่ไหน แต่ความรู้สึกเชิงปฏิบัติจากการรันเหล่านี้:
- agent เบาผูกกับ API — คุณไม่ต้องมี Pro เลยที่นี่ แพ็กเกจ NAT หรือ dedicated-IP ($3–20) จัดการได้ Pro ได้ที่ยืนเมื่อสถานะร่วมดันคุณเกิน ~32 GB
- 32 GB — จุดที่ลงตัวสำหรับระบบหลาย agent จริง: 5–10 agent พร้อมหน่วยความจำร่วมบวก vector database ที่มีประโยชน์จริง คนส่วนใหญ่มาลงที่นี่
- 64 GB — กองทัพใหญ่กว่า ประวัติยาวกว่า ดัชนีหน่วยความจำหลักล้าน vector หรือหลายบริการอยู่ร่วมกัน นี่คือที่ที่เครื่องเดียวแทนที่สามเครื่องเล็กที่คุณต้องปวดหัวจัดการ
- 80 GB — งานหนัก ผูกหน่วยความจำ: dataset ในหน่วยความจำใหญ่ agent จำนวนมากพร้อมกัน หรือ agent บวกการอนุมานโมเดลในเครื่องบนโฮสต์เดียวกัน
เริ่มต่ำกว่าที่คุณคิดว่าต้องการ ดู htop สักวัน ปรับขนาดขึ้นเมื่อเห็น swap ไม่ใช่ก่อนหน้า — เดาสูงแค่เสียเงิน
ส่วนที่ซื้อยาก
นี่คือสิ่งที่ทำให้เรื่องนี้ลำบาก: การเช่า RAM 64 GB นั้นง่าย การเช่า 64 GB ด้วยคริปโตและไม่ตรวจตัวตนนั้นไม่ โฮสต์ส่วนใหญ่ที่ขายหน่วยความจำจริงจังราคาถูกทำมันหลังบัตรและฟอร์ม KYC
หาก agent ของคุณจัดเตรียมเซิร์ฟเวอร์ของตัวเอง หรืองานแตะข้อมูลที่คุณไม่อยากผูกกับชื่อ การผสมนั้น — หน่วยความจำสูง คริปโต ไม่ต้อง KYC และสั่งซื้อได้โดย agent เองผ่าน MCP — คือผลิตภัณฑ์จริง มันไม่ถูกกว่าต่อกิกะไบต์ และฉันเขียนแยกเรื่องทำไมการเปรียบเทียบนั้นทำให้เข้าใจผิด มันมีให้ในเงื่อนไขที่แทบไม่มีใครเสนอ
แล้วคุณทำอะไร
หาก agent ของคุณเบาและผูกกับ API อย่าคิดมาก — แพ็กเกจ NAT หรือ dedicated-IP เล็กเพียงพอ ข้ามคำถามหน่วยความจำสูงทั้งหมด หากคุณรันกองทัพจริงที่ถือสถานะ กำหนดขนาดตามสิ่งที่อยู่ในหน่วยความจำจริง เริ่มที่ 32 GB และขยับขึ้นเมื่อกราฟบอกคุณ
เมื่อคุณถึงจุดนั้น สาย Pro ครอบคลุม 32 ถึง 80 GB พร้อม dedicated IP และการสำรองรายคืน เลือกระดับที่ตรงกับ working set ของคุณ ไม่ใช่ความทะเยอทะยานของคุณ
ความคิดเห็น
ยังไม่มีความคิดเห็น เป็นคนแรกสิ