可观测性(Observability)
可观测性(Observability) 是利用运行时信息理解系统内部行为的能力。对 LLM 应用,它帮助定位问题出现在检索、模型、工具执行还是后处理环节。OpenTelemetry介绍了 traces、metrics、logs 等信号。
三类信号怎样配合
| 信号 | 适合回答的问题 | 应用中的例子 |
|---|---|---|
| Metrics | 多少次、多少成本、整体多慢 | 错误率、token 用量、延迟分布 |
| Traces | 一次任务经过哪些步骤 | 检索 → 模型 → 工具 → 回复 |
| Logs | 某一步发生了什么 | 超时、校验失败、权限拒绝 |
工程建议:先记录最小可诊断信息
用同一个请求标识串联任务步骤,记录模型与提示模板版本、开始结束时间、状态、token 用量和重试次数。工具调用记录名称、结果状态和资源范围;检索记录文档标识与版本。
不要默认保存全部正文或工具参数。对个人信息和凭据做脱敏,限制日志访问、保留期限与采集比例。复现问题需要原文时,应先确定授权范围,再选择安全的样本保存方式。
监控不等于质量评测
低延迟、低报错率不能证明答案正确。将运行异常与评测基准中的失败类型对应起来:没有找到资料、引用不支持结论、工具执行失败、答案违反业务要求。
例如,一个请求耗时很短却引用了旧文档,应优先排查检索与版本选择,而不是仅调模型推理速度。
标准与版本
OpenTelemetry 的 GenAI 语义约定会演进。字段名和支持状态应以所用版本为准;当前入口见其GenAI 语义约定仓库。