ノード間で状態を永続化する、グラフベースのワークフロー管理
Loading technique guide…
ステートフルグラフワークフローは、プロセスをノード (ステップ) とエッジ (制御フロー) からなる有向グラフとしてモデル化し、ステップ間で永続的な状態を持ち回ります。実行はセッション/スレッド単位で進み、チェックポイントにより一時停止と再開、リプレイ、分岐、デバッグ用のタイムトラベルが可能です。条件付きエッジとループが動的ルーティングを実現し、並列ブランチが同時処理を可能にします。このパターンは、信頼性と監査可能性が重要な最新のエージェントシステム (LangGraph、LlamaIndex Workflows など) や汎用ワークフローエンジン (Temporal など) の基盤となっています。
分岐も長期コンテキストもない、単純で直線的なリクエスト→レスポンスの流れ。
オーケストレーションや LLM の往復が SLO を超えてしまう超低レイテンシ経路。
チェックポイントが価値を生まない単発スクリプトやステートレスなバッチ処理。
サービス間の厳密な ACID トランザクション。トランザクショナルなワークフローエンジンや saga を使う。
制御フローが最小限のルールエンジンや SQL パイプラインのほうが適した領域。
上限や収束チェックのない無制限ループや再帰的リトライ。
スレッド間で共有されるグローバルな可変状態と、並列ブランチでの競合状態。
冪等性の欠如 → 再開やリトライ時に副作用が重複する。
参照ではなく大きな blob をチェックポイントに保存する → ストレージ肥大と再開の遅延。
詰め込みすぎたプロンプトと状態や履歴の要約不足によるトークンの膨張。
オーケストレーションとビジネスロジックの密結合により、テストしにくく壊れやすいグラフになる。
要因: 計画や分析のプロンプト、検索とコンテキストの詰め込み、ノードごとの LLM 呼び出し、自己チェック、状態の肥大化。
制御手段: ノード単位のトークン上限、履歴や状態の要約、高信頼度での早期終了、並列化可能なノードのバッチ化、積極的なキャッシュ。
ストレージと CPU: 差分によるコンパクトなチェックポイント、大きな成果物の外部化、状態の重複排除。予算に合わせて同時実行数を制限する。
再開と監査が可能な多段階の AI タスク自動化 (計画→実行→検証→報告)。
ルーティングと検証 (CoVe/CRAG など) やフォールバック経路を備えた RAG パイプライン。
人による承認と安全なロールバックを伴い、ツールやスキルを呼び出すエージェントチーム。
決定的なリプレイとトレーサビリティが求められるコンプライアンスや規制対象のワークフロー。
外部依存があり断続的な障害が起きる長時間実行の処理。