Loading...
上下文窗口管理 UI(CWM)
用于在智能体界面中管理 LLM 上下文上限、token 用量和上下文窗口优化的可视化模式
In 30 seconds
- What
- 展示 token 用量,让用户固定重要消息,并自动摘要旧上下文以保持在 LLM 的限制之内。
- When to use
- 对话很长、上下文窗口被填满,需要由用户决定保留什么、丢弃什么的场景。
- Watch out
- 用户常常误判智能体真正需要哪些信息,被裁剪掉的上下文会破坏后续推理。
Loading technique guide…