Loading...
🔭
エージェントのオブザーバビリティとトレーシング(AOT)
本番環境でのステップ単位のトレーシング。すべてのモデル呼び出し、ツール呼び出し、ワークフローのステップ、サブエージェントを、単一の実行ツリー内のスパンとして記録し、トークン・レイテンシ・コストのメトリクスを付与します。OpenTelemetry GenAI のセマンティック規約(gen_ai.* 属性)で標準化され、LangSmith、Braintrust、Datadog といったプラットフォームで可視化されます。デプロイ前に挙動を採点するオフラインのベンチマークとは異なり、本番環境で非決定的な障害をデバッグするためのリアルタイムのシグナルです。
複雑さ: medium評価とモニタリング
In 30 seconds
- What
- モデル呼び出し、ツール呼び出し、ワークフローの各ステップを、トークン数、レイテンシ、コストとともにタイムスタンプ付きのスパンとして記録し、本番デバッグ用に一つの実行ツリーへまとめます。
- When to use
- 多段構成のエージェントの障害が非決定的で、オフラインでは再現しにくく、モデルとツールの境界をまたいだ根本原因の分析が必要になる本番システム。
- Watch out
- ログを詳細にするほどオーバーヘッドとストレージ費用が急速に膨らみます。プロンプトや応答に含まれる機微なデータ(個人情報や秘密情報)を不用意に記録すると、コンプライアンスとセキュリティのリスクになります。
Loading technique guide…