רוב האחסון תוכנן סביב אדם שיושב מול מקלדת: טופס הרשמה, כרטיס אשראי, לוח בקרה, מייל כשמשהו משתבש. סוכן בינה מלאכותית שצריך כוח חישוב לא מתאים לאף אחד מהשלבים האלה. הוא לא יכול לפתור captcha, לא מבחין בין דף תחזוקה לדף שבור, ולא ישים לב שהוא יצר את אותו שרת ארבעים פעם.
מפתה לומר „פשוט תנו לו API“. זו הדרישה הראשונה, לא האחרונה. הנה שבע שלדעתנו חשובות, מתוך בניית שרת ה־MCP וה־REST API שלנו לסוכנים. לכל אחת: מה משתבש בלעדיה.
1. כל מה שסוכן צריך ניתן לתכנות
יצירה, בדיקה, שינוי גודל ומחיקה של משאבים חייבים לעבוד בלי דפדפן. זה כולל את החלקים המשעממים: לברר את המחיר לפני רכישה, לבדוק אם במיקום מסוים יש קיבולת, לקרוא את הסיסמה של מכונה חדשה, לבטל.
בלי זה: הסוכן מגיע ל־80% מהדרך ונעצר בשלב היחיד שדורש לחיצה, ואדם צריך לסיים את העבודה בכל מקרה. API חלקי לרוב גרוע יותר מאשר אף API, כי הוא מזמין אוטומציה שלא יכולה להסתיים.
2. שגיאות שתוכנה יכולה לפעול לפיהן
סוכן קורא תגובה ומחליט מה לעשות הלאה. גוף JSON עם קוד יציב (402 insufficient_balance, 409 sandbox_paused, 429 budget_exceeded עם מועד האיפוס) הוא משהו שהוא יכול להסתעף לפיו. דף שגיאה ב־HTML, או 500 עם הודעה מעורפלת, משאירים אותו לנחש: לעתים קרובות הוא מנסה שוב משהו שלעולם לא יצליח.
בלי זה: לולאות של ניסיונות חוזרים. הכשלים היקרים ביותר של סוכנים הם בדרך כלל לא החלטות שגויות; הם אותה קריאה כושלת שחוזרת אלפי פעמים.
3. תשלום בלי אדם באמצע
תשלומים בכרטיס מלאים בשלבים שנועדו לוודא שאדם נוכח: קודי 3-D Secure, אישורים באפליקציית הבנק, בדיקות זהות. הם טובים למניעת הונאות ובלתי אפשריים לתוכנה. יתרה בתשלום מראש, שנטענת מראש (אצלנו לרוב במטבעות יציבים), מאפשרת לסוכן לשלם על מה שהוא משתמש בלי שאדם יאשר כל חיוב.
בלי זה: או שאדם מאשר כל רכישה, מה שמבטל את הטעם, או שמישהו נותן לסוכן כרטיס אשראי, סיכון שאף אחד לא צריך לקחת.
4. תקרות הוצאה קשיחות
יתרה בתשלום מראש מגבילה את המקרה הגרוע למה שיש בה. זה עדיין יכול להיות הרבה. תקרה יומית וחודשית בדולרים, שהפלטפורמה אוכפת ולא הכוונות הטובות של הסוכן עצמו, הופכת סוכן שנתקע בלולאה להפסד קטן. התקרה צריכה להיכשל ברעש, עם שגיאה שהסוכן מזהה, ולעצור או להשהות את מה שרץ.
בלי זה: אתם מגלים את הלולאה מהיתרה. לחיוב ארגזי החול שלנו יש תקרות מהסיבה הזו, והדף אמצעי ההגנה של MCP מציע אילו פעולות בכלל צריכות אישור של אדם.
5. חישוב ברזולוציה הנכונה
סוכנים מייצרים שלושה סוגי עבודה שונים מאוד:
- שניות: הרצת קטע קוד שנוצר, בדיקת תשובה, ניסיון תיקון.
- שעות: הערכה, איסוף נתונים מהרשת, בנייה ארוכה.
- פועל תמיד: בוט, API, עובד מתוזמן.
פלטפורמה שמציעה רק שרתים חודשיים הופכת את הסוג הראשון ליקר עד אבסורד; פלטפורמה שמציעה רק ארגזי חול קצרי חיים הופכת את הסוג השלישי לשביר. משימה של 20 שניות על מכונה שמחויבת לפי שעה משלמת על 59 דקות של כלום. איך עובד חיוב לפי שנייה מראה איפה כל מודל מפסיק להיות הגיוני.
בלי זה: סוכנים או משלמים ביוקר על עבודה קצרה, או מריצים שירותים ארוכי טווח על תשתית שלא נועדה להישאר למעלה.
6. בידוד כברירת מחדל
קוד שסוכן כותב הוא קוד שאף אחד לא בדק. הוא צריך לרוץ במקום שאין בו שום דבר בעל ערך: לא על המארח של הסוכן עצמו, לא על שרת עם המפתחות שלכם, לא על המכונה ששולחת את הדואר שלכם. בפועל זה אומר מכונה וירטואלית או microVM נפרדת לכל משימה, שנמחקת אחר כך. רמות בידוד לקוד לא מהימן משווה בין האפשרויות; מכונות Firecracker microVM בשפה פשוטה מסביר למה ליבה משלה חשובה.
בלי זה: הזרקת ההנחיות (prompt injection) הראשונה שמגיעה לקוד שנוצר מקבלת גישה לכל מה שהמארח של הסוכן יכול להגיע אליו.
7. נראות ומתג כיבוי
האדם שאחראי לסוכן צריך לראות מה הוא עשה ולעצור אותו מהר. זה אומר שימוש ועלות לכל משאב, רשימה של כל מה שהסוכן יצר, ודרך למחוק את כולם. אישורי גישה צריכים להיות ניתנים לביטול וקצרי חיים מספיק כדי שאישור שדלף לא יהיה תקף לנצח, עם דרך לחדש אותם שלא דורשת אדם.
בלי זה: הניקוי הופך לארכיאולוגיה. משאבים שנשכחו ממשיכים לחייב; טוקן שדלף ממשיך לעבוד.
מה סוכנים לא צריכים
לא פחות מעיד מה שלא עוזר: לוחות בקרה שתוכננו למכירה נוספת, מיילי קליטה, תוכניות שהמגבלות האמיתיות שלהן בהערת שוליים, מחירים שמוצגים רק אחרי ההרשמה. שום דבר מזה לא קריא לתוכנה, וחלק ממנו ממש מטעה מודל שמבין טקסט כפשוטו.
מה עדיין לא נפתר
לא כל מה שכאן הוא בעיה הנדסית פתורה.
- אחריותיות. מישהו אחראי למה שסוכן עושה עם חשבון. פלטפורמות צריכות דרך לקשור פעילות אוטומטית לאדם אחראי בלי לאלץ אותו לעבור כל שלב.
- ניצול לרעה. הרשמה פתוחה ואוטומטית לחלוטין היא בדיוק מה שגם מנצלים לרעה רוצים. כל פלטפורמה שמשרתת סוכנים מאזנת בין גישה בלי חיכוך לבין חוות חשבונות וכרייה, ולאף אחת אין תשובה מושלמת.
- תהליכים ארוכים. סוכנים עדיין נכשלים יותר בתהליכים של עשרה שלבים מאשר בקריאות בודדות. תשתית יכולה לעזור אם כל שלב הוא אידמפוטנטי והמצב שלו קל לתשאול, כך שניסיון חוזר ממשיך במקום לשכפל.
לאן הגענו
ניסינו לבנות עבור הדרישות האלה ולא לעקוף אותן: שרת MCP ו־REST API שמכסים את כל מחזור החיים, שגיאות שמכונה יכולה לקרוא, יתרה בתשלום מראש, תקרות הוצאה, ארגזי חול לקוד לפי שנייה לעבודה קצרה ושרתים חודשיים כמו תוכנית AI agent לעבודה ארוכה. סיור בצד של ארגזי החול נמצא בארגז חול לסוכני בינה מלאכותית. נעדיף שתשפטו את הרשימה לגופה; היא רשימת בדיקה שימושית לכל פלטפורמה שאתם משחררים עליה סוכן.
תגובות
אין עדיין תגובות. היו הראשונים.