AWS 发布 Codex on Bedrock 可观测性指南：本地 OTel 采集器打通 CloudWatch，实现按用户/团队/成本中心可视化

摘要：AWS 机器学习博客发布了一篇技术指南，介绍如何为在 Amazon Bedrock 上使用 OpenAI Codex 的工程团队构建可观测性。该方案利用 Codex 的 OpenTelemetry 指标，通过本地采集器（仅监听 127.0.0.1）丰富组织属性（如用户、团队、成本中心），并使用 SigV4 认证将指标发送到 Amazon CloudWatch，提供原生 AWS 视图。文章详细说明了架构、实现步骤、治理考量及分阶段推广建议，帮助领导者从采用、消费、可靠性等维度做出数据驱动的决策。

---

概述

随着企业从实验阶段转向在工程团队中大规模采用编码智能体（如 Codex），领导层的问题也随之改变：不再仅仅是“这个工具能否帮助开发者？”，而是“我们如何理解采用情况、管理消费、维护可靠性并负责任地扩展访问权限？”。

AWS 机器学习博客发布了一篇技术指南，展示了如何将 Codex 的 OpenTelemetry（OTel）指标通过本地采集器路由到 Amazon CloudWatch，从而获得按用户、团队、部门、组织或成本中心组织的 AWS 原生视图。该方案不引入集中式代理，开发者仍可本地使用 Codex，采集器仅监听本地主机，并利用 AWS IAM Identity Center 的身份信息丰富指标。

架构与核心特性

• 本地采集器：每个开发者工作站运行一个 OTel 采集器，接收 Codex 发出的指标（如 codex.api_request、codex.turn.token_usage 等），并添加 user.id、user.email 等资源属性，以及可选的 department、team.id、cost_center 等组织维度。
• SigV4 认证：采集器使用 AWS Signature Version 4 对请求进行签名，将指标发送到区域 CloudWatch OTLP 端点，无需额外的 ECS 服务、负载均衡器或 VPC。
• CloudWatch 仪表盘：参考部署包含 CodexOnBedrock 仪表盘，展示 24 小时滚动活跃用户、对话轮次、API 请求和 Token 用量，并支持按模型、Token 类型、用户、部门等维度筛选。

实现步骤

1. 启用 CloudWatch OTel 能力：使用 aws cloudwatch start-otel-enrichment 和 aws observabilityadmin start-telemetry-enrichment 开启指标富化和资源标签富化。
2. 部署仪表盘并构建采集器：克隆 Codex on AWS 指南仓库，运行脚本部署 CloudFormation 堆栈并构建本地采集器二进制。
3. 生成开发者配置：使用 generate-sidecar-config.sh 从开发者 AWS 配置文件生成采集器配置，可自动从 IAM Identity Center 读取组织属性。
4. 配置 Codex 并授权：在 Codex 配置中设置 OTel metrics exporter 指向本地采集器（如 http://127.0.0.1:4318/v1/metrics），并确保发布身份具有 cloudwatch:PutMetricData 权限。
5. 验证流程：启动采集器，运行 Codex 任务，然后在 CloudWatch 控制台查看仪表盘，或使用 check-otel-pipeline.sh 脚本确认指标到达。

治理与成本考量

• 隐私与访问控制：建议对高管报告使用聚合视图（团队、部门、成本中心），限制个人用户仪表盘的访问权限，并符合员工监控和数据保留政策。
• 基数控制：标准化属性名称和值，避免添加低价值的维度（如项目名），以控制指标基数和成本。
• 成本透明：CloudWatch OTel 指标按每 GB 摄取量计费，PromQL 查询按扫描样本数计费，建议在广泛部署前评估成本。
• 软控制 vs 硬控制：该模式提供可见性和软控制（如告警），但无法同步阻止超出预算的请求；如需硬性执行，需使用网关方案。

分阶段推广建议

1. 从单个工程组开始，验证身份归因的准确性，确保仪表盘能回答实际运营问题。
2. 逐步添加受控的组织维度，并定义需要行动的告警条件。
3. 通过托管工作站配置扩展，确保采集器生命周期和支持流程可重复。
4. 将 CloudWatch 使用遥测与 CUR 2.0 报告结合，实现账单级成本归因。

总结

该方案为组织提供了决策就绪的可观测性，无需在推理路径中引入新的集中式服务。CloudWatch 展示 Codex 的使用情况，CUR 2.0 提供财务事实来源，两者结合支持从试点到受控采用的平稳过渡。

原文出处：AWS Machine Learning Blog，Build visibility for Codex on Amazon Bedrock with OpenTelemetry and Amazon CloudWatch

—— 完 ——

主题标签： #AWS 关注 #Codex 关注 #OpenTelemetry 关注 #CloudWatch 关注 #可观测性 关注