Loading...
🔭
智能体可观测性与追踪(AOT)
生产环境中的步骤级追踪,将每一次模型调用、工具调用、工作流步骤和子智能体记录为单一运行树中的一个 span,并标注 token、延迟和成本指标。它通过 OpenTelemetry GenAI 语义约定(gen_ai.* 属性)实现标准化,并在 LangSmith、Braintrust 和 Datadog 等平台上呈现,是在生产环境中调试非确定性故障的实时信号,区别于在部署前对行为进行评分的离线基准测试。
复杂度: medium评估与监控
In 30 seconds
- What
- 把每一次模型调用、工具调用和工作流步骤都记录为带时间戳的 span,附上 token 数、延迟和成本,并汇总到单一的运行树中,供生产环境排查问题。
- When to use
- 适用于多步骤智能体故障具有非确定性、难以离线复现,或需要跨模型与工具边界做根因分析的生产系统。
- Watch out
- 日志越详细,开销和存储成本增长得越快;不加甄别地把提示词和响应中的敏感数据(个人信息、密钥)记录下来,会带来合规与安全风险。
Loading technique guide…