Loading...
段階的ロールアウトとシャドウモード(PRS)
エージェントやプロンプトの新バージョンを安全に本番投入するための、デプロイ側の手法。候補はまずシャドウモードで動作し、実際の本番トラフィックに対して実行されますが、その出力はユーザーには見せず、稼働中のバージョンとオフラインで比較されます。次に、ライブトラフィックの 1〜5 パーセントを対象とするカナリアへと進み、対照群に対してオンライン eval で採点され、続いて段階的なランプアップへと進みます。監視対象のメトリクスが悪化した瞬間に、自動でロールバックされます。オンライン eval(ライブトラフィックをその場で採点)とオフライン eval を組み合わせることで、静的なゴールデンセットでは予測できないロングテールの障害を捕捉できます。マージ前にオフラインで変更をゲートする eval-driven-agent-development とは異なり、こちらはマージ後のオンラインでのランプアップを統制します。
In 30 seconds
- What
- 候補となるエージェントを本番トラフィックで動かしつつ出力は配信せず、その後ユーザーへ段階的に公開し、指標が悪化したら自動でロールバックする。
- When to use
- エージェントやプロンプトの変更を出す際に、静的なテストセットよりも実トラフィックでのロングテールの失敗が重要で、全面展開の前に確信が欲しい場合。
- Watch out
- オンライン評価のレイテンシとコストはトラフィック量に比例して増える。遅い、あるいは高価なスコアラーは、本当の問題を捉える前にボトルネックになりかねない。
Loading technique guide…