הטעות שאני רואה הכי הרבה עם אחסון סוכנים היא מדידה לדבר הלא נכון. מישהו מריץ סוכן אחד, הוא משתמש ב-400 MB, והוא מסיק שסוכנים זולים לאחסן. ואז הוא מתרחב לצוות אמיתי והארגז מתחיל לעשות swap ב-3 לפנות בוקר.
סוכן אחד אכן זול. זה לא המקרה המעניין.
לאן הזיכרון בעצם הולך
סוכן שרק יורה קריאות API למודל הוא קל — הוא בעיקר מחכה לרשת. הייתם יכולים להריץ תריסר כאלה על תוכנית קטנה ולא לשים לב.
ה-RAM נעלם כשסוכנים מתחילים להחזיק state. היסטוריית שיחה שגדלה בכל תור. working set שכמה סוכנים קוראים וכותבים. vector store לזיכרון ארוך-טווח שיושב באותו תהליך. ברגע שהארכיטקטורה שלכם מפסיקה להיות "קרא ל-API, שכח" והופכת ל"זכור, תאם, העבר," זיכרון הופך לאילוץ, לא CPU.
CrewAI, LangGraph, לולאות בסגנון AutoGPT — כולן נוטות לכיוון הזה ככל שהן נעשות רציניות. ה-framework לא אוכל את ה-RAM; ה-state כן.
מדידה גסה, בכנות
אני לא אעמיד פנים שיש נוסחה, כי אין — זה תלוי לגמרי בכמה כל סוכן מחזיק סביב. אבל תחושה מעשית מהרצת אלה:
- סוכנים קלים, מוגבלי-API — אתם לא צריכים Pro בכלל כאן; תוכנית NAT או IP-ייעודי ($3–20) מטפלת בזה. Pro מרוויח את מקומו ברגע ש-state משותף דוחף אתכם מעבר ל-~32 GB.
- 32 GB — הנקודה המתוקה למערכת רב-סוכנית אמיתית: 5–10 סוכנים עם זיכרון משותף בתוספת מסד נתונים וקטורי שבאמת שימושי. רוב האנשים נוחתים כאן.
- 64 GB — ציים גדולים יותר, היסטוריות ארוכות יותר, אינדקס זיכרון במיליוני וקטורים, או כמה שירותים ממוקמים-יחד. כאן ארגז אחד מחליף את השלושה הקטנים יותר שאחרת הייתם מלהטטים בהם.
- 80 GB — עבודה כבדה, כבולת-זיכרון: מערכי נתונים גדולים בזיכרון, הרבה סוכנים בו-זמניים, או סוכנים בתוספת inference של מודל מקומי על אותו מארח.
התחילו מתחת למקום שאתם חושבים שאתם צריכים להיות בו. צפו ב-htop ליום. שנו גודל למעלה כשאתם רואים swap, לא לפני — לנחש גבוה סתם מבזבז כסף.
החלק שקשה לקנות
הנה הדבר שהופך את זה למביך: לשכור 64 GB של RAM זה קל. לשכור 64 GB עם קריפטו וללא בדיקת זהות זה לא. רוב המארחים שמוכרים זיכרון רציני בזול עושים זאת מאחורי כרטיס וטופס KYC.
אם הסוכן שלכם מקים שרת משלו, או ה-workload נוגע בנתונים שהייתם מעדיפים לא לקשור לשם, הצירוף הזה — זיכרון גבוה, קריפטו, ללא KYC, וניתן-להזמנה על ידי הסוכן עצמו דרך MCP — הוא המוצר האמיתי. הוא לא זול יותר לגיגה-בייט, וכתבתי בנפרד על למה ההשוואה הזו מטעה. הוא זמין בתנאים שכמעט אף אחד לא מציע.
אז מה אתם עושים
אם הסוכנים שלכם קלים ומוגבלי-API, אל תחשבו יותר מדי — תוכנית NAT או IP-ייעודי קטנה בשפע, דלגו על כל שאלת הזיכרון-הגבוה. אם אתם מריצים צי אמיתי שמחזיק state, מדדו לפי מה שבאמת בזיכרון, התחילו ב-32 GB, ועלו כשהגרף אומר לכם.
כשאתם שם, קו ה-Pro מכסה 32 עד 80 GB עם IP ייעודי וגיבויים לילִיים. בחרו את השכבה שתואמת את ה-working set שלכם, לא את השאיפות שלכם.
תגובות
אין עדיין תגובות. היו הראשונים.