Loading...
上下文编辑与工具结果清除(CETC)
一种位于框架(harness)或 API 层的原语,一旦超过 token 阈值,就会自动将陈旧内容从活跃上下文窗口中逐出,最常见的做法是精准地将旧的 tool_result 块替换为简短的占位符,同时保持对应的 tool_use 记录完好无损。由于文件读取、搜索命中和 API 转储都可重新获取,它们会以零推理成本被丢弃,仅在后续某一轮确实需要时才重新拉取,从而使 KV 缓存前缀保持稳定,并抵御长循环中的上下文腐烂。Anthropic 将其作为 clear_tool_uses_20250919 和 compact_20260112 发布,据报告在 100 轮的网页搜索评测中减少了约 84% 的 token,并带来 29-39% 的性能提升。与 `context-compress-patterns` 有别:清除会无损地逐出可重新获取的原始结果,而非有损地对其进行摘要;与 `filesystem-as-context` 不同,它无需显式的写盘卸载步骤;与 `memory-forgetting-policies` 不同,它关注的不是让长期记忆衰减,而是修剪工作窗口。
In 30 seconds
- What
- 当接近 token 上限时,自动从上下文中移除旧的工具结果内容,用占位符替代,同时保留工具调用记录。
- When to use
- 适用于长时间运行的智能体循环:工具结果堆积的速度快过被消耗的速度,而且这些结果随时可以从外部来源重新获取。
- Watch out
- 如果某个已清除的结果在无法重跑工具的情况下被需要,占位符就会破坏对话记录的连贯性,并迫使系统重新获取一次。
Loading technique guide…