正在加载模式…
测试时扩展(TTS)
在推理阶段为候选生成、搜索、验证或优化分配额外的计算资源
30秒速览
- 是什么
- 在推理时生成多个候选解,再用验证器对它们排序或过滤,最后返回最佳结果。
- 何时使用
- 适用于高风险输出:质量比延迟更重要,并且你能承受多次前向推理来换取更好的答案。
- 注意
- 算力成本会随候选数量成倍增加;若验证器代价高昂或针对性不足,验证开销甚至会超过生成成本。
向AI专家咨询此模式
打开助手并预填您的问题,发送前可先确认。
测试时扩展: 概览
在推理阶段为候选生成、搜索、验证或优化分配额外的计算资源
- Inference-time compute budgets
- Best-of-N candidate sampling
- Search over reasoning paths
- Verifier-guided selection
- Iterative critique and refinement
- Adaptive stopping rules
The Agent Architect
每周一个模式、一个权衡、一个生产事故案例。为构建智能体系统的人准备的每周简报。
每周一封邮件,一键退订。您的地址仅用于发送简报。
参考资料
该模式所依据的论文、规范和代码仓库。
由本目录背后的工程师执行
为你的智能体架构做一次评审
本页讲的是一个模式。真实系统会同时跑几十个,而多数故障恰恰出在它们的衔接处。我们按本目录的 288 个模式评审你的整体设计:架构、可靠性、评测与成本,每一条结论都对应到能修复它的模式。
€750(原价 €1,500),一周交付,书面报告加讲解通话,9月30日前