Loading...
有状态图工作流
跨节点保持持久状态的基于图的工作流管理
In 30 seconds
- What
- 将工作组织为相互连接的节点,在各阶段之间传递数据,并在每一步保存进度与状态,从而实现条件路由和并行路径。
- When to use
- 中间结果决定下一步的复杂多阶段流程、故障恢复很重要的场景,或需要同时处理多个文档时。
- Watch out
- 状态膨胀和同步缺陷会迅速累积;在分布式节点之间排查故障,比线性流水线难上指数级。
Loading technique guide…
跨节点保持持久状态的基于图的工作流管理
Loading technique guide…
有状态图工作流把流程建模为由节点 (步骤) 和边 (控制流) 组成的有向图,并在各步骤间携带持久状态。执行按会话/线程推进,检查点支持暂停恢复、回放、分支以及用于调试的时间回溯。条件边和循环实现动态路由;并行分支支持并发处理。该模式支撑着现代智能体系统 (如 LangGraph、LlamaIndex Workflows) 以及重视可靠性与可审计性的通用工作流引擎 (如 Temporal)。
没有分支或长期上下文的简单线性请求→响应流程。
编排或 LLM 往返会突破 SLO 的超低延迟路径。
检查点毫无价值的一次性脚本或无状态批处理作业。
跨服务的严格 ACID 事务;应使用事务型工作流引擎或 saga。
更适合用规则引擎或控制流极少的 SQL 流水线处理的领域。
没有上限或收敛检查的无界循环与递归重试。
跨线程共享的全局可变状态;并行分支中的竞态条件。
缺乏幂等性 → 恢复或重试时产生重复副作用。
把大对象而非引用写入检查点 → 存储膨胀与恢复缓慢。
提示词堆砌过多且缺少状态/历史摘要,导致令牌暴涨。
编排与业务逻辑紧密混杂;图难以测试且脆弱。
主要开销来源:规划/分析提示、检索与上下文打包、每节点 LLM 调用、自检以及状态膨胀。
控制手段:按节点设置令牌上限、摘要历史与状态、高置信度时提前退出、批处理可并行节点、积极缓存。
存储/CPU:紧凑检查点 (差异存储)、外部化大型产物、状态去重;将并发限制在预算之内。
具备可恢复性与审计能力的多步骤 AI 任务自动化 (规划→执行→验证→汇报)。
带路由与验证 (如 CoVe/CRAG) 及回退路径的 RAG 流水线。
调用工具/技能并配合人工审批与安全回滚的智能体团队。
要求确定性回放与可追溯性的合规/受监管工作流。
存在外部依赖和间歇性故障的长时间运行操作。