התשובה הכנה ל"כמה שרת הסוכן AI שלי צריך?" היא: פחות ממה שאתם חושבים — ישר עד שפתאום לא. הטריק הוא לדעת באיזה צד של הקו הזה ה-workload שלכם יושב. אז במקום לנחש, הנה מה שכל סוג סוכן בעצם משתמש.
השאלה האחת שמחליטה הכל
האם המודל רץ על השרת שלכם, או שהסוכן שלכם קורא למודל מעל API?
אם הסוכן שלכם מדבר עם LLM מאוחסן (המקרה הנפוץ), החלק החכם והיקר קורה על החומרה של מישהו אחר. הארגז שלכם רק מריץ לולאת תזמור: קח קלט, קרא ל-API, פרסר את התוצאה, אולי פגע במסד נתונים, חזור. זה קל. באמת קל — ארגז 1 GB עושה את זה בלי להזיע.
אם אתם מריצים את המודל מקומית, הכל משתנה: עכשיו RAM נשלט על ידי משקלי המודל, ותרצו כל ליבה שאתם יכולים להשיג. רוב האנשים לא צריכים את זה. אלה שכן בדרך כלל יודעים בדיוק למה (פרטיות, ללא מגבלות קצב, לא-מקוון). אם זה אתם, כתבנו מדריך נפרד על אחסון-עצמי של LLM מקומי.
מדידה לפי workload
מספרים אמיתיים, מהסוג שאתם יכולים לפעול לפיו:
| Workload | RAM | vCPU | דיסק | הערות |
|---|---|---|---|---|
| סוכן צ'אט / עוזר (מגובה-API) | 1 GB | 2 | 15 GB | הלולאה זעירה; המודל מרוחק |
| סקרייפר / סוכן נתונים | 2 GB | 2 | 25 GB | מרווח ל-parsing + נתונים שגורדו |
| בוט מסחר | 1–2 GB | 2 | 15–25 GB | השהיה חשובה יותר מגודל — ראו את מדריך בוט-המסחר |
| כמה סוכנים במקביל | 4 GB | 4 | 35 GB | כל סוכן זול; מקביליות מצטברת |
| LLM מקומי, 3B–7B (קוונטיזי) | 4–6 GB | 4–6 | 25–45 GB | CPU-בלבד, רץ בקצב קריא, לא בכמות |
הדפוס: סוכנים מגובי-API זעירים; מודלים מקומיים הם הדבר היחיד שכבד.
איפה ארגז CPU נעצר
בישרות לגבי התקרה: התוכניות שלנו מגיעות עד 6 GB RAM ו-6 ליבות, CPU-בלבד — ללא GPU. זה מכסה את כל מה שבטבלה למעלה, כולל מודל 7B מקומי לשימוש אישי. מה שהוא לא מכסה: מודלים 13B+, inference מקומי בתפוקה-גבוהה, או כל דבר שבאמת צריך GPU. אם זה ה-workload שלכם, VPS של CPU — שלנו או של כל אחד — הוא הכלי הלא נכון, ועדיף לדעת את זה עכשיו מאשר אחרי שפרסתם.
ל-95% מהסוכנים שקוראים ל-API, שום דבר מזה לא בעיה. הם שמחים על הארגז הקטן ביותר.
כלל אצבע מעשי
- סתם סוכן שקורא ל-API? התחילו ב-1 GB / 2 ליבות. אתם יכולים לשנות גודל אחר כך.
- גירוד או אחסון נתונים? 2 GB ודיסק גדול יותר.
- מריצים כמה סוכנים, או מודל מקומי קטן? 4–6 GB ו-4+ ליבות.
- צריך GPU? קטגוריה אחרת — אל תכריחו אותו על CPU.
אל תקצו יותר מדי מתוך עצבנות. סוכנים קלים במהותם; העלות של ארגז קטן-מדי היא שינוי-גודל אחד, בעוד העלות של ארגז גדול-מדי היא לשלם על RAM בטל כל חודש.
כשבחרתם גודל, סוכן יכול לשכור את הארגז בעצמו דרך MCP, או שאתם יכולים להזמין אותו תוך דקה באתר. כך או כך, התחילו קטן — כמעט בוודאי תצטרכו פחות ממה שציפיתם.
תגובות
אין עדיין תגובות. היו הראשונים.