模型架构
检索增强与混合系统
在请求时检索证据并提供给生成器、分类器或智能体，而不是只依赖模型参数。
思维模型
开放书式推理：检索选择证据；生成使用它。每个部分都可以独立失败。
数据流
- 摄取 → 分块 → 索引
- 用户查询
- 密集型、稀疏型、图型或混合型检索
- 重排序 + 上下文组装
- 带有证据链接的模型答案
训练方式
组件可以单独训练，也可以联合训练：双编码器学习检索，重排序器学习配对相关性，生成器学习基于事实的响应行为。许多实际的 RAG 系统使用预训练组件而无需端到端训练。
推理运行方式
查询可能会被改写或路由；多个检索器产生候选结果；过滤器和重排序器选择证据；模型从有限上下文回答。引用正确性要求检查声明是否确实有支持依据。
优势
- 新鲜、私有或可追溯的知识，无需权重更新
- 可以检查证据并控制访问权限
- 索引和生成器可以独立演进
权衡
- 糟糕的分块或检索会产生来自缺失证据的有信度答案
- 摄取的新鲜度、权限和删除成为生产系统
- 检索到的内容可能包含提示注入或中毒数据
适用场景
- 答案取决于不断变化的专有来源
- 用户需要可追溯的证据
- 可以单独评估召回率、排序、事实依据和答案质量
应避免或质疑的场景
- 语料库太小，可以使用确定性查找
- 不存在可靠的来源
- 将向量数据库视为完整的 RAG 设计方案
已发表的示例系列
- • 原始检索增强生成架构
- • 带有重排序的密集型 + 稀疏型混合检索
- • 基于图或工具的检索管道
常见组合
嵌入模型对比编码器与双编码器重排序器文本与聊天语言模型工具使用与推理系统