AWS发布SageMaker AI与Bedrock AgentCore集成方案:构建多智能体工作流并实现Token级可观测性
文 / Mr.Xu
发布时间: · 8 次阅读
摘要:AWS推出了一项新方案,通过将Amazon SageMaker AI的OpenAI兼容端点与Amazon Bedrock AgentCore运行时结合,帮助开发者构建多智能体工作流。每个智能体可选择最适合其任务的模型,从而实现成本优化、数据驻留和模型灵活性。此外,本文还展示了如何通过自定义OpenTelemetry跨度实现对SageMaker端点的Token级可观测性,解决默认情况下Strands Agents无法提供此类功能的问题。
AWS发布SageMaker AI与Bedrock AgentCore集成方案:构建多智能体工作流并实现Token级可观测性
AWS近日发布了一项新方案,通过将Amazon SageMaker AI的OpenAI兼容端点与Amazon Bedrock AgentCore运行时结合,帮助开发者构建多智能体工作流。该方案的核心优势包括:
- 模型灵活性:每个智能体可以选择最适合其任务的模型,例如使用Claude Haiku 4.5进行用户意图分类,使用Claude Sonnet 4.6处理预算分配,以及使用Qwen 3.5 9B进行金融分析。
- 成本优化与数据驻留:通过在Amazon SageMaker AI上部署自托管模型,开发者可以更好地控制成本和数据驻留策略。
- Token级可观测性:本文还展示了如何通过自定义OpenTelemetry跨度,实现对SageMaker端点的Token级可观测性,解决默认情况下Strands Agents无法提供此类功能的问题。
技术亮点解析
- 多智能体架构:通过Amazon Bedrock AgentCore运行时,开发者可以构建复杂的多智能体系统,每个智能体负责特定任务,并通过统一的协调器进行任务分配与结果整合。
- OpenAI兼容端点集成:SageMaker AI的OpenAI兼容端点允许开发者无缝集成OpenAI模型,同时利用SageMaker的GPU加速和弹性扩展能力。
- 自定义OpenTelemetry跨度:为了解决Strands Agents默认无法提供Token级可观测性的问题,本文提出了一种通过自定义OpenTelemetry跨度的方法,提取并记录SageMaker端点的Token使用情况。
行业影响与开发者建议
- 多智能体系统开发:对于需要构建复杂AI工作流的开发者来说,该方案提供了一种灵活且高效的实现方式。
- 成本与性能优化:通过合理选择和部署模型,开发者可以在保证性能的同时,优化AI推理成本。
- 可观测性提升:建议开发者关注Token级可观测性,以便更好地监控AI模型的资源消耗和性能表现。
结论
AWS通过将SageMaker AI与Bedrock AgentCore集成,提供了一种强大的多智能体工作流构建方案,并解决了Token级可观测性的关键问题。这一方案不仅提升了AI系统的灵活性和可扩展性,还为开发者提供了更精细的成本和性能控制手段。
相关资源
- OpenAI-compatible API for SageMaker AI
- Strands Agents — agents as tools
- Amazon Bedrock AgentCore Observability
- OpenTelemetry generative AI semantic conventions
—— 完 ——消息来源:AWS Machine Learning Blog (2026-08-14)
主题标签: #AWS #SageMaker AI #Bedrock AgentCore #多智能体系统 #OpenTelemetry
社区整体评论区