正在加载模式…
上下文编辑与工具结果清除(CETC)
一种位于框架(harness)或 API 层的原语,一旦超过 token 阈值,就会自动将陈旧内容从活跃上下文窗口中逐出,最常见的做法是精准地将旧的 tool_result 块替换为简短的占位符,同时保持对应的 tool_use 记录完好无损。由于文件读取、搜索命中和 API 转储都可重新获取,它们会以零推理成本被丢弃,仅在后续某一轮确实需要时才重新拉取,从而使 KV 缓存前缀保持稳定,并抵御长循环中的上下文腐烂。Anthropic 将其作为 clear_tool_uses_20250919 和 compact_20260112 发布,据报告在 100 轮的网页搜索评测中减少了约 84% 的 token,并带来 29-39% 的性能提升。与 `context-compress-patterns` 有别:清除会无损地逐出可重新获取的原始结果,而非有损地对其进行摘要;与 `filesystem-as-context` 不同,它无需显式的写盘卸载步骤;与 `memory-forgetting-policies` 不同,它关注的不是让长期记忆衰减,而是修剪工作窗口。
30秒速览
- 是什么
- 当接近 token 上限时,自动从上下文中移除旧的工具结果内容,用占位符替代,同时保留工具调用记录。
- 何时使用
- 适用于长时间运行的智能体循环:工具结果堆积的速度快过被消耗的速度,而且这些结果随时可以从外部来源重新获取。
- 注意
- 如果某个已清除的结果在无法重跑工具的情况下被需要,占位符就会破坏对话记录的连贯性,并迫使系统重新获取一次。
向AI专家咨询此模式
打开助手并预填您的问题,发送前可先确认。
上下文编辑与工具结果清除: 概览
一种位于框架(harness)或 API 层的原语,一旦超过 token 阈值,就会自动将陈旧内容从活跃上下文窗口中逐出,最常见的做法是精准地将旧的 tool_result 块替换为简短的占位符,同时保持对应的 tool_use 记录完好无损。由于文件读取、搜索命中和 API 转储都可重新获取,它们会以零推理成本被丢弃,仅在后续某一轮确实需要时才重新拉取,从而使 KV 缓存前缀保持稳定,并抵御长循环中的上下文腐烂。Anthropic 将其作为 clear_tool_uses_20250919 和 compact_20260112 发布,据报告在 100 轮的网页搜索评测中减少了约 84% 的 token,并带来 29-39% 的性能提升。与 `context-compress-patterns` 有别:清除会无损地逐出可重新获取的原始结果,而非有损地对其进行摘要;与 `filesystem-as-context` 不同,它无需显式的写盘卸载步骤;与 `memory-forgetting-policies` 不同,它关注的不是让长期记忆衰减,而是修剪工作窗口。
- Threshold-triggered eviction fires automatically at a configured input-token budget
- Surgically clears the oldest tool_result blocks, replacing payloads with a short placeholder
- Keeps the tool_use call record so the transcript stays coherent and re-callable
- Zero inference cost: eviction is a harness edit, not a model summarization pass
- Re-fetchable by design, the agent re-runs the tool only when the data is needed again
- Preserves the KV-cache prefix on prior turns so cached tokens stay cheap
The Agent Architect
每周一个模式、一个权衡、一个生产事故案例。为构建智能体系统的人准备的每周简报。
每周一封邮件,一键退订。您的地址仅用于发送简报。
参考资料
该模式所依据的论文、规范和代码仓库。
由本目录背后的工程师执行
为你的智能体架构做一次评审
本页讲的是一个模式。真实系统会同时跑几十个,而多数故障恰恰出在它们的衔接处。我们按本目录的 288 个模式评审你的整体设计:架构、可靠性、评测与成本,每一条结论都对应到能修复它的模式。
€750(原价 €1,500),一周交付,书面报告加讲解通话,9月30日前