Sai lầm phổ biến nhất với hosting agent là chọn kích cỡ cho một agent. Ai đó chạy một agent duy nhất, thấy nó dùng 400 MB, và kết luận các agent rẻ để host. Rồi họ mở rộng sang một đội thực và cỗ máy bắt đầu swap lúc 3 giờ sáng.
Một agent thì rẻ. Đó không phải trường hợp thú vị.
Bộ nhớ thực sự đi đâu
Một agent chỉ bắn các lệnh gọi API tới một mô hình thì nhẹ — nó chủ yếu chờ mạng. Chạy một tá cái đó trên một gói nhỏ và bạn sẽ không bao giờ để ý.
RAM biến mất khi các agent giữ trạng thái. Lịch sử tăng mỗi lượt. Một tập làm việc mà vài agent đọc và ghi. Một vector store cho bộ nhớ dài hạn trong cùng tiến trình. Khoảnh khắc kiến trúc ngừng là "gọi API, quên" và trở thành "nhớ, điều phối, bàn giao," bộ nhớ là ràng buộc — không phải CPU. CrewAI, LangGraph, các vòng lặp kiểu AutoGPT đều nghiêng theo hướng này khi chúng trở nên nghiêm túc. Framework không ngốn RAM; trạng thái mới ngốn. Chúng tôi đã đào sâu vào các con số ở đây.
Chọn kích cỡ đại khái
- Các agent nhẹ, ràng buộc bởi API — bạn không cần Pro; một gói NAT hoặc IP riêng ($3–20) là dư dả. Bỏ qua phần còn lại của trang này.
- Một đội thực (5–10 agent) với bộ nhớ chung cộng một vector store hữu ích — Pro-32 (32 GB) là điểm ngọt. Hầu hết các đội rơi vào đây.
- Các đội lớn hơn, lịch sử dài hơn, một chỉ mục bộ nhớ hàng triệu — Pro-64 (64 GB). Đây là nơi một cỗ máy thay thế ba cái nhỏ hơn mà bạn phải xoay xở.
- Đội cộng các dịch vụ đặt chung, hoặc agent cộng suy luận cục bộ — lên tới Pro-80 (80 GB).
Bắt đầu dưới mức bạn nghĩ mình cần, xem htop một ngày, đổi kích cỡ lên khi bạn thấy swap. Đoán cao chỉ phí tiền.
Vì sao hình dạng host này
Một đội tự cấp phát hoặc quản lý máy chủ của riêng nó muốn một API nó có thể điều khiển mà không cần con người — và ngày càng, thanh toán mà không cần con người nữa. Bộ nhớ lớn, một IP riêng, thanh toán crypto, không KYC, và cả cái đó đặt được bởi một agent qua MCP: sự kết hợp đó hiếm, và đó là điều dòng Pro được xây dựng cho. Nó không phải rẻ nhất trên mỗi gigabyte, và nếu các agent của bạn nhẹ bạn thực sự không cần nó. Nhưng cho một hệ thống nghiêm túc giữ trạng thái và coi trọng quyền riêng tư, nó là lựa chọn đúng.
Khi bạn ở đó, Pro-32 bao phủ một đội thực; nâng kích cỡ lên 64 hoặc 80 GB khi đội lớn lên.
Bình luận
Chưa có bình luận nào. Hãy là người đầu tiên.