智客 ZICQ
EN 登录 / 注册
智客前沿 算力架构 #NVIDIA #NVLink Fusion #NVHBM #AI基础设施 #内存技术

NVIDIA发布NVLink Fusion与NVHBM:革新AI基础设施内存技术

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 5 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:NVIDIA宣布扩展其NVLink Fusion技术,引入新一代高带宽内存技术NVHBM。该技术通过将内存控制器集成到3D HBM堆栈中,显著提升内存带宽达30%,降低HBM功耗15%,并释放XPU计算芯片上25%的面积。NVHBM由多家内存供应商提供支持,旨在为超大规模企业和AI创新者提供更高效、更快速的AI基础设施构建方案。


NVIDIA NVLink Fusion与NVHBM:AI基础设施的革新

随着AI智能体和万亿参数工作负载逐渐成为主流,AI基础设施的性能不仅仅依赖于计算能力,还取决于计算、内存、存储、网络和软件的协同设计。为了帮助超大规模企业和AI创新者构建下一代半定制AI基础设施,NVIDIA宣布扩展其NVLink Fusion技术,并引入了新一代高带宽内存技术——NVHBM。

NVHBM的核心优势

  • 内存性能提升:NVHBM通过将NVIDIA定制的内存控制器集成到HBM基底层,提供了高达30%的内存带宽提升。
  • 功耗降低:与标准HBM4E相比,NVHBM的功耗降低了15%。
  • 芯片面积优化:NVHBM释放了XPU计算芯片上25%的面积,为计算资源提供更多空间。

NVHBM基于NVIDIA未来GPU将使用的相同技术,并由多家领先的内存供应商提供支持。这一举措减少了跨供应商集成和认证内存所需的工程工作量,为NVLink Fusion客户提供了更快的产品上市路径。

AWS与NVIDIA的合作

亚马逊的Annapurna Labs将成为首个与NVIDIA合作开发NVHBM的合作伙伴,作为其与NVIDIA在NVLink Fusion方面更广泛合作的一部分。Annapurna Labs将在其下一代Trainium芯片中支持NVLink Fusion,从Trainium4开始,这将使亚马逊芯片和NVIDIA GPU能够通过共同的机架级架构协同工作。

开放与集成的生态系统

NVLink Fusion使合作伙伴能够将定制的XPUs和CPUs连接到NVIDIA的机架级平台。合作伙伴可以访问NVIDIA NVLink芯片、NVLink-C2C、NVLink交换机和NVIDIA MGX系统和机架,以及广泛的CPU合作伙伴、ASIC设计人员、系统制造商和技术提供商生态系统。NVLink Fusion与NVIDIA每一代机架级系统架构一起提供,使超大规模企业和AI原生公司能够专注于XPU创新,同时利用经过验证的技术堆栈进行扩展和扩展网络、机架级系统和软件,从而更快、更低风险地部署半定制AI基础设施。

行业影响与开发者建议

  • 对AI基础设施的影响:NVLink Fusion与NVHBM的结合将显著提升AI计算平台的整体性能和能效,为AI模型的训练和推理提供更强大的支持。
  • 对开发者的影响:开发者可以利用这一技术优化AI应用的资源利用效率,特别是在处理大规模数据集和复杂模型时。
  • 建议:开发者应关注NVLink Fusion与NVHBM的进一步发展,并考虑在未来的AI项目中采用这一技术,以提升系统的整体性能和可扩展性。

消息来源:NVIDIA AI News (2026-08-26)

—— 完 ——

主题标签: #NVIDIA #NVLink Fusion #NVHBM #AI基础设施 #内存技术

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…