跳到主内容
智客 ZICQ

智客百科 基础设施

可观测性(Observability)

基础设施
别名: Observability 可观测性 Tracing 链路追踪 LLM Observability ·2026-10-07

可观测性(Observability)

可观测性(Observability) 是利用运行时信息理解系统内部行为的能力。对 LLM 应用,它帮助定位问题出现在检索、模型、工具执行还是后处理环节。OpenTelemetry介绍了 traces、metrics、logs 等信号。

三类信号怎样配合

信号 适合回答的问题 应用中的例子
Metrics 多少次、多少成本、整体多慢 错误率、token 用量、延迟分布
Traces 一次任务经过哪些步骤 检索 → 模型 → 工具 → 回复
Logs 某一步发生了什么 超时、校验失败、权限拒绝

工程建议:先记录最小可诊断信息

用同一个请求标识串联任务步骤,记录模型与提示模板版本、开始结束时间、状态、token 用量和重试次数。工具调用记录名称、结果状态和资源范围;检索记录文档标识与版本。

不要默认保存全部正文或工具参数。对个人信息和凭据做脱敏,限制日志访问、保留期限与采集比例。复现问题需要原文时,应先确定授权范围,再选择安全的样本保存方式。

监控不等于质量评测

低延迟、低报错率不能证明答案正确。将运行异常与评测基准中的失败类型对应起来:没有找到资料、引用不支持结论、工具执行失败、答案违反业务要求。

例如,一个请求耗时很短却引用了旧文档,应优先排查检索与版本选择,而不是仅调模型推理速度。

标准与版本

OpenTelemetry 的 GenAI 语义约定会演进。字段名和支持状态应以所用版本为准;当前入口见其GenAI 语义约定仓库。

更多见工具调用、RAG、Agent 记忆与推理。