正在加载模式…
预算护栏式自主(BGA)
对令牌、金额、实际耗时和工具调用次数设定强制执行的按任务、按会话硬性预算,在每次调用之前进行检查,暂停或终止执行,而非事后的成本告警。相关机制包括:在下一次调用抵达服务提供方之前触发超预算停止的预检式预算检查、在失控循环时跳闸的令牌速率熔断器、终止无进展循环的循环检测器,以及委派式预算上限,即父智能体为子智能体授予其无法超出的支出上限。区别于 `cost-aware-model-selection`,后者通过路由到更便宜的模型来降低单位成本,但并不强制上限或终止支出。
30秒速览
- 是什么
- 在每个执行步骤之前,对 token、金额、时间和工具调用强制施加硬性上限,一旦触及限额就停止或暂停。
- 何时使用
- 自主智能体在无人监督下执行任务,而失控循环、token 膨胀或意外费用会带来真实的财务或运营风险时。
- 注意
- 预算收得过紧会让正当的工作难以完成;上限设得太小则会引发误报和频繁暂停,既让用户恼火,也浪费工程时间。
向AI专家咨询此模式
打开助手并预填您的问题,发送前可先确认。
预算护栏式自主: 概览
对令牌、金额、实际耗时和工具调用次数设定强制执行的按任务、按会话硬性预算,在每次调用之前进行检查,暂停或终止执行,而非事后的成本告警。相关机制包括:在下一次调用抵达服务提供方之前触发超预算停止的预检式预算检查、在失控循环时跳闸的令牌速率熔断器、终止无进展循环的循环检测器,以及委派式预算上限,即父智能体为子智能体授予其无法超出的支出上限。区别于 `cost-aware-model-selection`,后者通过路由到更便宜的模型来降低单位成本,但并不强制上限或终止支出。
- Pre-flight enforcement: budget checked before the next call, not after spend
- Hard caps on tokens, dollars, wall-clock time, and tool-call count
- Token-velocity circuit breaker trips on runaway or ping-ponging loops
- Loop detection halts repeated no-progress cycles
- Delegated ceilings: a parent grants a child a spend cap it cannot exceed
- Pause-with-state on breach so a human can raise the cap or kill the run
The Agent Architect
每周一个模式、一个权衡、一个生产事故案例。为构建智能体系统的人准备的每周简报。
每周一封邮件,一键退订。您的地址仅用于发送简报。
参考资料
该模式所依据的论文、规范和代码仓库。
由本目录背后的工程师执行
为你的智能体架构做一次评审
本页讲的是一个模式。真实系统会同时跑几十个,而多数故障恰恰出在它们的衔接处。我们按本目录的 288 个模式评审你的整体设计:架构、可靠性、评测与成本,每一条结论都对应到能修复它的模式。
€750(原价 €1,500),一周交付,书面报告加讲解通话,9月30日前