Το πιο κοινό λάθος με το hosting πρακτόρων είναι το μέγεθος για έναν πράκτορα. Κάποιος τρέχει έναν μόνο πράκτορα, τον βλέπει να χρησιμοποιεί 400 MB, και συμπεραίνει ότι οι πράκτορες είναι φθηνοί να φιλοξενηθούν. Μετά κλιμακώνει σε ένα πραγματικό πλήρωμα και το box αρχίζει να κάνει swap στις 3 π.μ.
Ένας πράκτορας είναι φθηνός. Αυτή δεν είναι η ενδιαφέρουσα περίπτωση.
Πού πάει πραγματικά η μνήμη
Ένας πράκτορας που ρίχνει μόνο κλήσεις API σε ένα μοντέλο είναι ελαφρύς — κυρίως περιμένει το δίκτυο. Τρέξτε μια ντουζίνα από αυτούς σε ένα μικρό πακέτο και δεν θα το παρατηρούσατε ποτέ.
Η RAM εξαφανίζεται όταν οι πράκτορες κρατούν κατάσταση. Ιστορικό που μεγαλώνει κάθε γύρο. Ένα working set που πολλοί πράκτορες διαβάζουν και γράφουν. Ένα vector store για μακροπρόθεσμη μνήμη στην ίδια διεργασία. Τη στιγμή που η αρχιτεκτονική παύει να είναι «κάλεσε API, ξέχνα» και γίνεται «θυμήσου, συντόνισε, παράδωσε», η μνήμη είναι ο περιορισμός — όχι η CPU. Τα CrewAI, LangGraph, οι βρόχοι τύπου AutoGPT όλα τείνουν προς τα εκεί καθώς σοβαρεύουν. Το framework δεν τρώει τη RAM· η κατάσταση το κάνει. Σκάψαμε στα νούμερα εδώ.
Πρόχειρο μέγεθος
- Ελαφριοί, API-bound πράκτορες — δεν χρειάζεστε Pro· ένα πακέτο NAT ή αποκλειστικού IP ($3–20) είναι άφθονο. Παραλείψτε το υπόλοιπο αυτής της σελίδας.
- Ένα πραγματικό πλήρωμα (5–10 πράκτορες) με κοινή μνήμη συν ένα χρήσιμο vector store — το Pro-32 (32 GB) είναι το ιδανικό σημείο. Οι περισσότεροι στόλοι προσγειώνονται εδώ.
- Μεγαλύτεροι στόλοι, μεγαλύτερα ιστορικά, ένα memory index στα εκατομμύρια — το Pro-64 (64 GB). Εδώ ένα box αντικαθιστά τα τρία μικρότερα που θα ζογκλάριζατε αλλιώς.
- Στόλος συν co-located υπηρεσίες, ή πράκτορες συν τοπικό inference — έως Pro-80 (80 GB).
Ξεκινήστε κάτω από εκεί που νομίζετε ότι πρέπει να είστε, παρακολουθήστε το htop για μια μέρα, αλλάξτε μέγεθος προς τα πάνω όταν δείτε swap. Το να μαντεύετε ψηλά απλώς σπαταλά χρήματα.
Γιατί αυτό το σχήμα host
Ένας στόλος που παρέχει ή διαχειρίζεται τους δικούς του servers θέλει ένα API που μπορεί να οδηγήσει χωρίς άνθρωπο — και ολοένα, να πληρώσει χωρίς έναν επίσης. Υψηλή μνήμη, ένα αποκλειστικό IP, πληρωμή με crypto, χωρίς KYC, και όλο το πράγμα παραγγέλσιμο από έναν πράκτορα μέσω MCP: αυτός ο συνδυασμός είναι σπάνιος, και είναι αυτό για το οποίο είναι φτιαγμένη η γραμμή Pro. Δεν είναι το φθηνότερο ανά gigabyte, και αν οι πράκτορές σας είναι ελαφριοί γνήσια δεν το χρειάζεστε. Αλλά για ένα σοβαρό σύστημα που κρατά κατάσταση και εκτιμά την ιδιωτικότητα, είναι το σωστό ταίρι.
Όταν είστε εκεί, το Pro-32 καλύπτει ένα πραγματικό πλήρωμα· ανεβείτε στα 64 ή 80 GB καθώς ο στόλος μεγαλώνει.
Σχόλια
Δεν υπάρχουν ακόμη σχόλια. Γίνετε ο πρώτος.