智客 ZICQ
EN 登录 / 注册
智客前沿 智能体 #AWS #SageMaker #Bedrock #多智能体 #OpenTelemetry

AWS发布SageMaker AI与Bedrock AgentCore集成方案:多智能体工作流构建与Token级可观测性

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 7 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:AWS推出了一种新方案,通过将Amazon SageMaker AI的OpenAI兼容端点与Amazon Bedrock AgentCore运行时结合,帮助开发者构建多智能体工作流。每个智能体可选择最适合其任务的模型,从而实现成本优化、数据驻留和模型灵活性。此外,本文还展示了如何通过自定义OpenTelemetry跨度实现对SageMaker端点的Token级可观测性,解决默认情况下Strands Agents无法提供此类功能的问题。


AWS发布SageMaker AI与Bedrock AgentCore集成方案:多智能体工作流构建与Token级可观测性

在构建多智能体工作流时,开发者常常面临一个挑战:如何将托管的基础模型(FM)与自有的成本优化或领域特定模型结合,而无需重写整个智能体框架。AWS通过将Amazon SageMaker AI的OpenAI兼容端点与Amazon Bedrock AgentCore运行时集成,提供了一种解决方案。

核心功能与优势

  • 多智能体协作:不同智能体可使用最适合其任务的模型进行协作。例如,预算智能体使用Claude Sonnet 4.6,而金融分析智能体使用Qwen 3.5 9B。
  • 成本优化与灵活性:通过在单一生产级架构中集成不同模型,实现成本优化、数据驻留和模型灵活性。
  • Token级可观测性:通过自定义OpenTelemetry跨度,实现对SageMaker端点的Token级监控,解决Strands Agents默认无法提供此类功能的问题。

技术实现细节

  1. 部署Qwen 3.5 9B模型:使用vLLM深度学习容器(DLC)在Amazon SageMaker AI上部署Qwen 3.5 9B模型。
  2. 构建多智能体系统:利用Strands Agents的“智能体即工具”模式,为每个智能体实例化并配置相应的模型。
  3. 部署到Amazon Bedrock AgentCore运行时:使用Bedrock AgentCore启动工具包,将整个工作流部署到AgentCore运行时。
  4. 实现Token级可观测性:通过自定义OpenTelemetry跨度,手动发出gen_ai.chat跨度,并从Strands内部AgentResult.metrics.accumulated_usage中提取Token使用数据。

关键配置步骤

  • 开启Amazon CloudWatch事务搜索:确保X-Ray采样率为100%,以捕获所有跟踪信息。
  • 安装Strands Agents[otel]包:提供OpenTelemetry支持。
  • 设置环境变量:启用Agent可观测性。
  • 使用opentelemetry-instrument作为容器命令:确保OpenTelemetry自动注入。

行业影响与开发者建议

  • 多模型协作的灵活性:开发者可以更灵活地选择和集成不同模型,以满足特定需求。
  • 可观测性的重要性:实现对Token使用的监控,有助于成本控制和性能优化。
  • 自动化与集成:利用AWS提供的工具和API,简化多智能体工作流的构建和部署过程。

结论

AWS通过将SageMaker AI与Bedrock AgentCore集成,为开发者提供了一种强大的多智能体工作流构建方案。同时,通过自定义OpenTelemetry跨度,开发者可以实现对SageMaker端点的Token级可观测性,从而更好地控制成本和优化性能。

相关资源


消息来源:AWS Machine Learning Blog (2026-08-14)

—— 完 ——

主题标签: #AWS #SageMaker #Bedrock #多智能体 #OpenTelemetry

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…