大多數託管服務都是圍繞坐在鍵盤前的人設計的:記錄單、信用卡、控制面板、出問題時的一封郵件。需要算力的 AI 代理與這些步驟都不符合。它解不了驗證碼,分不清維護頁面和出故障的頁面,也不會注意到自己已經把同一台伺服器建立了四十次。
人們很容易說「給它一個 API 就行了」。那只是第一項要求,而不是最後一項。下面是我們在為代理建置自己的 MCP 伺服器和 REST API 時總結出的七項我們認為重要的要求。每一項都說明:缺了它會出什麼問題。
1. 代理需要的一切都可程式設計
建立、檢視、調整規格和刪除資源,都必須無需瀏覽器即可完成。這也包括那些枯燥的部分:購買前查價格、檢查某個地點是否有容量、讀取新機器的密碼、取消服務。
缺了它: 代理走完 80% 的路,卡在唯一需要點選的那一步,最後還是得有人來收尾。不完整的 API 往往比沒有更糟,因為它誘導人們去做無法完成的自動化。
2. 程式能據以行動的錯誤
代理讀取回應,然後決定下一步做什麼。帶有穩定錯誤碼的 JSON 回應體(402 insufficient_balance、409 sandbox_paused、帶重設時間的 429 budget_exceeded)是它可以據此分支的東西。HTML 錯誤頁或者一個含糊其辭的 500,只會讓它去猜:常常是反覆重試一件永遠不會成功的事。
缺了它: 重試迴圈。最昂貴的代理故障往往不是錯誤的決策,而是同一個失敗的呼叫被重複成千上萬次。
3. 無需人工介入的付款
信用卡支付充滿了用來確認有真人在場的步驟:3-D Secure 驗證碼、銀行 App 確認、身分核驗。它們對防欺詐很有用,對軟體來說卻無法透過。預先儲值的預付餘額(在我們這裡常用穩定幣儲值)讓代理可以為自己使用的資源付費,而無需人工批准每一筆扣款。
缺了它: 要麼每筆購買都由人批准,這就失去了意義;要麼有人把信用卡交給代理,這是誰都不該冒的風險。
4. 硬性的支出上限
預付餘額把最壞情況限制在餘額之內。而這可能仍然不少。由平台而不是代理自己的「良好意願」來執行的每日和每月美元上限,能把一個陷入迴圈的代理變成一筆小損失。上限觸發時應該明確報錯,返回代理能識別的錯誤,並停止或暫停正在執行的東西。
缺了它: 您是從餘額上才發現迴圈的。我們的沙箱計費正是因此設有上限,MCP 安全防護頁面則建議哪些操作根本就應該需要人工批准。
5. 粒度合適的算力
代理會產生三種截然不同的工作:
- 秒級: 執行一段產生的程式碼、檢查一個答案、嘗試一個修復。
- 小時級: 一次評估、一次抓取、一次漫長的建置。
- 始終線上: 一個機器人、一個 API、一個定時執行的 worker。
只提供月繳伺服器的平台會讓第一種工作貴得離譜;只提供短生命週期沙箱的平台會讓第三種工作變得脆弱。在按小時計費的機器上跑一個 20 秒的任務,等於為 59 分鐘的空閒付費。按秒計費如何運作說明了每種模式在哪裡不再合理。
缺了它: 代理要麼為短任務多付錢,要麼把長期執行的服務放在本不打算一直線上的基礎設施上。
6. 預設隔離
代理寫的程式碼是沒人審查過的程式碼。它應該執行在一個沒有任何有價值東西的地方:不是代理自己的主機,不是存有您金鑰的伺服器,也不是傳送您郵件的機器。實際上,這意味著每個任務一個單獨的虛擬機器或 microVM,用完刪除。執行不可信程式碼的隔離級別對比了各種方案;通俗講解 Firecracker microVM 說明了獨立核心為什麼重要。
缺了它: 第一個混進產生程式碼裡的提示詞注入,就能存取代理主機能觸及的一切。
7. 可見性和關停開關
對代理負責的人需要看到它做了什麼,並能迅速叫停。這意味著要有按資源統計的用量和費用、代理建立的所有東西的清單,以及一鍵全部刪除的方法。憑據應當可以撤銷,並且有效期足夠短,使洩露的憑據不會永遠有效,同時還要有無需人工就能重新整理它們的方法。
缺了它: 清理工作變成考古。被遺忘的資源持續計費;洩露的 token 繼續有效。
代理不需要什麼
同樣能說明問題的是那些沒用的東西:為追加銷售而設計的控制面板、新使用者引導郵件、真實限制藏在腳註裡的方案、註冊後才顯示的價格。這些軟體都讀不了,其中一些對按字面理解文字的模型還具有誤導性。
仍未解決的問題
這裡並非所有問題都已在工程上解決。
- 問責。 代理用帳戶做的事需要有人負責。平台需要一種方法,把自動化活動與負責人關聯起來,又不必強迫這個人走完每一個步驟。
- 濫用。 開放、全自動的註冊恰恰也是濫用者想要的。每個服務代理的平台都在無摩擦存取與刷號、挖礦之間尋求平衡,沒有哪家有完美的答案。
- 長流程。 代理在十步流程上的失敗率仍然高於單次呼叫。基礎設施可以幫忙:讓每一步都冪等,並且狀態易於查詢,這樣重試就是繼續而不是重複。
我們目前的做法
我們努力為這些要求而建置,而不是繞開它們:覆蓋完整生命週期的 MCP 伺服器和 REST API、機器可讀的錯誤、預付餘額、支出上限、用於短任務的按秒計費程式碼沙箱,以及用於長期任務的月繳伺服器,例如 AI agent 方案。沙箱部分的完整演示見 AI 代理沙箱。我們更希望您根據這份清單本身的價值來評判它;對於任何您打算放手讓代理使用的平台,它都是一份有用的檢查清單。
評論
目前還沒有評論。歡迎成為第一位。