AWS发布SageMaker AI与Bedrock AgentCore集成方案:多智能体工作流构建与Token级可观测性
摘要:AWS推出了一种新方案,通过将Amazon SageMaker AI的OpenAI兼容端点与Amazon Bedrock AgentCore运行时结合,帮助开发者构建多智能体工作流。每个智能体可选择最适合其任务的模型,从而实现成本优化、数据驻留和模型灵活性。此外,本文还展示了如何通过自定义OpenTelemetry跨度实现对SageMaker端点的Token级可观测性,解决默认情况下Strands Agents无法提供此类功能的问题。
AWS发布SageMaker AI与Bedrock AgentCore集成方案:多智能体工作流构建与Token级可观测性
在构建多智能体工作流时,开发者常常面临一个挑战:如何将托管的基础模型(FM)与自有的成本优化或领域特定模型结合,而无需重写整个智能体框架。AWS通过将Amazon SageMaker AI的OpenAI兼容端点与Amazon Bedrock AgentCore运行时集成,提供了一种解决方案。
核心功能与优势
- 多智能体协作:不同智能体可使用最适合其任务的模型进行协作。例如,预算智能体使用Claude Sonnet 4.6,而金融分析智能体使用Qwen 3.5 9B。
- 成本优化与灵活性:通过在单一生产级架构中集成不同模型,实现成本优化、数据驻留和模型灵活性。
- Token级可观测性:通过自定义OpenTelemetry跨度,实现对SageMaker端点的Token级监控,解决Strands Agents默认无法提供此类功能的问题。
技术实现细节
- 部署Qwen 3.5 9B模型:使用vLLM深度学习容器(DLC)在Amazon SageMaker AI上部署Qwen 3.5 9B模型。
- 构建多智能体系统:利用Strands Agents的“智能体即工具”模式,为每个智能体实例化并配置相应的模型。
- 部署到Amazon Bedrock AgentCore运行时:使用Bedrock AgentCore启动工具包,将整个工作流部署到AgentCore运行时。
- 实现Token级可观测性:通过自定义OpenTelemetry跨度,手动发出
gen_ai.chat跨度,并从Strands内部AgentResult.metrics.accumulated_usage中提取Token使用数据。
关键配置步骤
- 开启Amazon CloudWatch事务搜索:确保X-Ray采样率为100%,以捕获所有跟踪信息。
- 安装Strands Agents[otel]包:提供OpenTelemetry支持。
- 设置环境变量:启用Agent可观测性。
- 使用
opentelemetry-instrument作为容器命令:确保OpenTelemetry自动注入。
行业影响与开发者建议
- 多模型协作的灵活性:开发者可以更灵活地选择和集成不同模型,以满足特定需求。
- 可观测性的重要性:实现对Token使用的监控,有助于成本控制和性能优化。
- 自动化与集成:利用AWS提供的工具和API,简化多智能体工作流的构建和部署过程。
结论
AWS通过将SageMaker AI与Bedrock AgentCore集成,为开发者提供了一种强大的多智能体工作流构建方案。同时,通过自定义OpenTelemetry跨度,开发者可以实现对SageMaker端点的Token级可观测性,从而更好地控制成本和优化性能。
相关资源
- OpenAI兼容API for SageMaker AI
- Strands Agents — agents as tools
- Amazon Bedrock AgentCore Observability
- OpenTelemetry generative AI semantic conventions
—— 完 ——消息来源:AWS Machine Learning Blog (2026-08-14)
主题标签: #AWS #SageMaker #Bedrock #多智能体 #OpenTelemetry
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区