Loading...
🧠
上下文编排
用于选择、路由、调整规模和组合上下文的模式
In 30 seconds
- What
- 在记忆、检索、工具和专家智能体之间做选择与路由，决定哪些信息以何种形式、在何时送达每个模型或智能体。
- When to use
- 多个上下文来源争抢有限的模型窗口，不同智能体需要不同的证据，或者上下文的质量与新鲜度因来源而异。
- Watch out
- 不做优先级排序就把所有可用来源拼接在一起，既浪费 token，又引入噪声，还可能诱发相互矛盾的推理或隐私泄露。
概览
上下文编排模式决定哪些信息应以何种形式、在何时到达每个模型或智能体。在组合了记忆、检索、工具和多个专家的系统中，它涵盖来源融合、任务感知路由以及自适应的上下文规模调整。
实际应用与使用场景
1
多来源助手：将检索到的文档、会话记忆和实时工具结果融合在一起，并保持清晰的来源。
2
专家智能体：只向每个智能体路由其所需的上下文，同时保持交接的连续性。
3
成本敏感型应用：根据任务复杂度调整上下文深度，而不是默认填满窗口。
为什么这很重要
上下文并非越多越好。经过深思熟虑的编排能在保留任务所需信息的同时，减少干扰、泄露、成本和相互矛盾的证据。
实施指南
何时使用
多个上下文来源争夺有限的模型窗口
不同的智能体或任务需要不同的证据
上下文的质量、隐私或时效性因来源而异
最佳实践
按照与任务的相关性、权威性、时效性和敏感度对上下文进行排序
在各种转换过程中始终保留来源和访问策略
同时评估检索质量和回答质量
常见陷阱
不加优先级排序，就把所有可用来源拼接在一起
在摘要或交接过程中丢失来源
把敏感的上下文共享给并不需要它的智能体