智客 ZICQ
EN 登录 / 注册
智客前沿 大模型 #AWS #SageMaker #Ray #分布式训练 #机器学习

AWS发布SageMaker HyperPod上的Ray新功能:简化分布式训练与推理

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 6 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:AWS宣布在Amazon SageMaker HyperPod上推出新的Ray功能,为用户提供托管的Ray支持。通过与Amazon EKS的集成,用户可以轻松创建和监控Ray集群,并通过SageMaker Studio进行交互式开发和任务提交。新功能包括自动故障恢复、分层检查点存储以及与Amazon Managed Grafana集成的开箱即用的可观测性。这些功能旨在简化大规模机器学习工作负载的管理,并提升训练和推理的效率和可靠性。


AWS发布SageMaker HyperPod上的Ray新功能

近日,AWS宣布在Amazon SageMaker HyperPod上推出新的Ray功能,为用户提供托管的Ray支持。Ray是一个开源框架,广泛用于扩展分布式Python工作负载,从Ray Train的分布式训练到Ray Serve的模型服务。通过与Amazon Elastic Kubernetes Service (Amazon EKS) 的集成,用户可以更轻松地创建和监控Ray集群,并利用以下关键功能:

主要功能亮点

  1. 集群创建与管理:用户可以通过SageMaker Studio直接创建和管理Ray集群,无需编写Kubernetes清单或运行kubectl命令。
  2. 交互式开发:用户可以将Ray集群连接到SageMaker Spaces中的JupyterLab或Code Editor工作区,实现零计算节点集成,从而在笔记本中运行分布式工作负载。
  3. 自动故障恢复:SageMaker HyperPod提供自动节点恢复功能,确保Ray训练作业在硬件故障时能够继续运行。
  4. 分层检查点存储:通过HyperPod的分层存储,训练作业可以快速从故障中恢复,减少停机时间。
  5. 开箱即用的可观测性:集成了Amazon Managed Grafana,用户可以访问预构建的Grafana仪表板,实时监控Ray集群和作业状态。
  6. 远程作业提交:用户可以使用toolkit-for-ray-on-sagemaker-ai Python包从本地或CI/CD管道远程提交Ray作业。

技术细节

  • KubeRay集成:Ray集群由KubeRay管理,KubeRay是一个开源的Kubernetes Operator,负责处理集群生命周期。
  • SageMaker Studio集成:用户可以通过SageMaker Studio的图形界面创建、编辑和删除Ray集群,查看集群状态和日志。
  • 可观测性:HyperPod Observability EKS add-on自动发现Ray pod并配置Amazon Managed Grafana仪表板,无需手动配置Prometheus和Grafana。

行业影响

AWS在SageMaker HyperPod上引入Ray功能,标志着其在支持大规模分布式机器学习工作负载方面的又一重要举措。通过简化Ray集群的管理和监控,AWS为数据科学家和机器学习工程师提供了更高效、更可靠的工具。这不仅有助于提升工作效率,还能加速AI/ML项目的开发和部署。

开发者建议

  • 尝试新功能:建议开发者尽快尝试SageMaker HyperPod上的Ray新功能,以体验其带来的便利和效率提升。
  • 利用可观测性工具:充分利用集成的Grafana仪表板,实时监控集群和作业状态,及时发现和解决问题。
  • 优化工作流程:结合Ray的分布式计算能力和SageMaker Studio的交互式开发环境,优化机器学习工作流程,提高生产力。

结论

AWS在SageMaker HyperPod上推出的Ray新功能,为用户提供了更强大的工具来管理分布式机器学习工作负载。通过集成KubeRay和Amazon Managed Grafana,AWS简化了Ray集群的创建、管理和监控,为数据科学家和机器学习工程师提供了更高效、更可靠的工作环境。


消息来源:AWS Machine Learning Blog (2026-08-24)

—— 完 ——

主题标签: #AWS #SageMaker #Ray #分布式训练 #机器学习

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…