大多数托管服务都是围绕坐在键盘前的人设计的:注册表单、银行卡、控制面板、出问题时的一封邮件。需要算力的 AI 智能体与这些步骤都不匹配。它解不了验证码,分不清维护页面和出故障的页面,也不会注意到自己已经把同一台服务器创建了四十次。
人们很容易说“给它一个 API 就行了”。那只是第一项要求,而不是最后一项。下面是我们在为智能体构建自己的 MCP 服务器和 REST API 时总结出的七项我们认为重要的要求。每一项都说明:缺了它会出什么问题。
1. 智能体需要的一切都可编程
创建、查看、调整规格和删除资源,都必须无需浏览器即可完成。这也包括那些枯燥的部分:购买前查价格、检查某个地点是否有容量、读取新机器的密码、取消服务。
缺了它: 智能体走完 80% 的路,卡在唯一需要点击的那一步,最后还是得有人来收尾。不完整的 API 往往比没有更糟,因为它诱导人们去做无法完成的自动化。
2. 程序能据以行动的错误
智能体读取响应,然后决定下一步做什么。带有稳定错误码的 JSON 响应体(402 insufficient_balance、409 sandbox_paused、带重置时间的 429 budget_exceeded)是它可以据此分支的东西。HTML 错误页或者一个含糊其辞的 500,只会让它去猜:常常是反复重试一件永远不会成功的事。
缺了它: 重试循环。最昂贵的智能体故障往往不是错误的决策,而是同一个失败的调用被重复成千上万次。
3. 无需人工介入的付款
银行卡支付充满了用来确认有真人在场的步骤:3-D Secure 验证码、银行 App 确认、身份核验。它们对防欺诈很有用,对软件来说却无法通过。预先充值的预付余额(在我们这里常用稳定币充值)让智能体可以为自己使用的资源付费,而无需人工批准每一笔扣款。
缺了它: 要么每笔购买都由人批准,这就失去了意义;要么有人把银行卡交给智能体,这是谁都不该冒的风险。
4. 硬性的支出上限
预付余额把最坏情况限制在余额之内。而这可能仍然不少。由平台而不是智能体自己的“良好意愿”来执行的每日和每月美元上限,能把一个陷入循环的智能体变成一笔小损失。上限触发时应该明确报错,返回智能体能识别的错误,并停止或暂停正在运行的东西。
缺了它: 你是从余额上才发现循环的。我们的沙箱计费正是因此设有上限,MCP 安全防护页面则建议哪些操作根本就应该需要人工批准。
5. 粒度合适的算力
智能体会产生三种截然不同的工作:
- 秒级: 运行一段生成的代码、检查一个答案、尝试一个修复。
- 小时级: 一次评估、一次抓取、一次漫长的构建。
- 始终在线: 一个机器人、一个 API、一个定时运行的 worker。
只提供月付服务器的平台会让第一种工作贵得离谱;只提供短生命周期沙箱的平台会让第三种工作变得脆弱。在按小时计费的机器上跑一个 20 秒的任务,等于为 59 分钟的空闲付费。按秒计费如何运作说明了每种模式在哪里不再合理。
缺了它: 智能体要么为短任务多付钱,要么把长期运行的服务放在本不打算一直在线的基础设施上。
6. 默认隔离
智能体写的代码是没人审查过的代码。它应该运行在一个没有任何有价值东西的地方:不是智能体自己的主机,不是存有你密钥的服务器,也不是发送你邮件的机器。实际上,这意味着每个任务一个单独的虚拟机或 microVM,用完删除。运行不可信代码的隔离级别对比了各种方案;通俗讲解 Firecracker microVM 说明了独立内核为什么重要。
缺了它: 第一个混进生成代码里的提示词注入,就能访问智能体主机能触及的一切。
7. 可见性和关停开关
对智能体负责的人需要看到它做了什么,并能迅速叫停。这意味着要有按资源统计的用量和费用、智能体创建的所有东西的清单,以及一键全部删除的方法。凭据应当可以吊销,并且有效期足够短,使泄露的凭据不会永远有效,同时还要有无需人工就能刷新它们的方法。
缺了它: 清理工作变成考古。被遗忘的资源持续计费;泄露的 token 继续有效。
智能体不需要什么
同样能说明问题的是那些没用的东西:为追加销售而设计的控制面板、新用户引导邮件、真实限制藏在脚注里的套餐、注册后才显示的价格。这些软件都读不了,其中一些对按字面理解文本的模型还具有误导性。
仍未解决的问题
这里并非所有问题都已在工程上解决。
- 问责。 智能体用账户做的事需要有人负责。平台需要一种方法,把自动化活动与负责人关联起来,又不必强迫这个人走完每一个步骤。
- 滥用。 开放、全自动的注册恰恰也是滥用者想要的。每个服务智能体的平台都在无摩擦访问与刷号、挖矿之间寻求平衡,没有哪家有完美的答案。
- 长流程。 智能体在十步流程上的失败率仍然高于单次调用。基础设施可以帮忙:让每一步都幂等,并且状态易于查询,这样重试就是继续而不是重复。
我们目前的做法
我们努力为这些要求而构建,而不是绕开它们:覆盖完整生命周期的 MCP 服务器和 REST API、机器可读的错误、预付余额、支出上限、用于短任务的按秒计费代码沙箱,以及用于长期任务的月付服务器,例如 AI agent 套餐。沙箱部分的完整演示见 AI 智能体沙箱。我们更希望你根据这份清单本身的价值来评判它;对于任何你打算放手让智能体使用的平台,它都是一份有用的检查清单。
评论
暂无评论。来做第一个吧。